发布物介绍

PTQ转换示例发布物包括模型量化示例 samples/onnx_ptq 和模型库 model_zoo/mapper 路径下用于编译的源模型。

模型量化示例包 onnx_ptq

注解

OE包默认不携带示例对应的校准数据集和原始模型,您需要在对应的示例文件夹内执行 00_init.sh 获取当前示例所需的模型和校准数据集。

全部示例的原始模型和数据集获取完成后的模型转换示例包的目录结构如下所示:

onnx_ptq/
├── common                                 # 此路径包含PTQ示例包通用脚本和数据
│   ├── calibration_data                   # 校准数据
│   ├── data -> /data/horizon_j6/data      # 用于放置公共数据集的软链接
│   ├── model_zoo -> ../../model_zoo       # 用于放置模型发布物的软链接
│   ├── python
│   ├── test_data
│   └── tools
├── examples                              
│   ├── classification                     # 分类模型示例
│   ├── detection                          # 检测模型示例
│   └── segmentation                       # 分割模型示例
└── tools
    ├── data_preprocess.py                 # 数据前处理脚本
    └── requirements.txt                   # 示例运行所需依赖

示例包中包含的主要内容:

常见算法模型示例classification/detection/segmentation/ 文件夹中的示例。

这些示例的主要目标是指导:

  • 快速体验模型转换的流程。

  • 快速评测模型转换的精度。

  • 体验转换的效果。

注解

这部分示例会不定期更新,为您常见的问题提供示例解答。

模型库 model_zoo

模型库 model_zoo 文件夹下包含两个路径: mapperruntime

  • mapper 路径下包含了进行模型转换时要使用的模型(ONNX或Caffe格式的浮点模型)。

  • runtime 路径下则包含了嵌入式运行时开发要使用的hbm模型。

下一小节内容将为您介绍算法模型示例相关的内容。