Tiy-NAS 介绍

Tiy-NAS 是一个高性能的神经结构搜索（NAS）框架，用于在GPU和移动设备上自动设计具有高预测精度和高推理速度的深度神经网络。 Ze-NAS 是一种典型的 Tiy-NAS 方法，它基于自主设计的 Ze-Score 来对网络结构进行打分与排序，从而搜索最优网络结构。ZeNet 是基于 Ze-NAS 设计出的高效网络结构。 ZeNet 在ImageNet 数据集上的 top-1 accuracy 指标精度与 EfficietNet-B5 (~83.6%) 相当，但是推理速度更快（4.9x times faster o V100, 10x times faster o NVIDIA T4, 1.6x times faster o Google Pixel2）。

模型描述

ZeNet 是基于 Tiy-NAS (Ze-NAS) 算法设计出的高效的卷积网络结构。 本 demo 只提供 zeet_imageet1k_latecy12ms_res22 backboe，其它网络结构可以从README 中获取。

模型使用方式以及适用范围

使用方式：

• 直接推理，在imageet-1k 数据集上进行直接推理;
• 微调，在已经公开的模型在新数据、新任务上进行微调。

使用范围:

• 适合2D image 输入的任务。

目标场景:

• 在直接推理时，适合imageet-1k 支持的标签集上进行直接推理;
• 在微调场景下，本模型可以作为各种使用 2D image下游任务的 backboe（诸如检测、分割等）。

如何使用

作为通用 backboe 可以被集成到各种任务中作为特征提取器。

代码范例

from modelscope.pipelies import pipelie
from modelscope.utils.costat import Tasks

tiyas_classificatio = pipelie(
        Tasks.image_classificatio,
        model='damo/cv_tiyas_classificatio')
result = tiyas_classificatio('data/test/images/image_wolf.jpeg')
prit(f'recogitio output: {result}.')

模型局限性以及可能的偏差

考虑 GPU 精度等的差异，可能带来一定的性能差异

训练数据介绍

使用标准 imageet-1k 数据集

模型训练流程

预处理

训练时：随机裁剪一部分图片，然后 resize 为 224x224，再随机翻转和颜色抖动 推理时：进行中心裁剪

训练

初始 learig rate 为0.4，衰减方式为cosie，weight decay 为0.00004，warmup-epochs 为5，一共迭代 200 epoch

数据评估及结果

• 'V100' is the iferece latecy o NVIDIA V100 i millisecods, bechmarked at batch size 64, float16.
• 'T4' is the iferece latecy o NVIDIA T4 i millisecods, bechmarked at batch size 64, TesorRT INT8.
• 'Pixel2' is the iferece latecy o Google Pixel2 i millisecods, bechmarked at sigle image.

相关论文以及引用信息

@iproceedigs{mig_zeas_iccv2021,
  author    = {Mig Li ad Pichao Wag ad Zhehog Su ad Hese Che ad Xiuyu Su ad Qi Qia ad Hao Li ad Rog Ji},
  title     = {Ze-NAS: A Zero-Shot NAS for High-Performace Deep Image Recogitio},
  booktitle = {2021 IEEE/CVF Iteratioal Coferece o Computer Visio, {ICCV} 2021},  
  year      = {2021},
}

If you are iterested i ZeNAS, welcome to our github!

Tiny-NAS 介绍 Tiny-NAS 是一个高性能的神经结构搜索（NAS）框架，用于在GPU和移动设备上自动设计具有高预测精度和高推理速度的深度神经网络。 Zen-NAS 是一种典型的 Tiny-