环境部署
前言
地平线OpenExplorer目前同时提供了2套模型量化方案:
- PTQ:Post-training Quantization,训练后量化。
- QAT:Quantized awareness training,量化感知训练(暂时只支持Pytorch框架)。
其中:
-
两套方案均不干预浮点模型的训练阶段,您需要自行负责。地平线也在
samples/ai_toolchain/horizon_model_train_sample路径下开源了一些分类/检测/分割等场景高效模型的公版Pytorch实现以供参考,并支持在宿主机上进行训练和复现。 -
对于PTQ方案,您需要在宿主机的开发环境完成模型的量化转换,再将编译生成的
.hbm模型拷贝至开发板环境完成后续的部署工作。 -
对于QAT方案,您则需要在宿主机的开发环境先完成模型的QAT训练,再进行量化转换,再将编译生成的
.hbm模型拷贝至开发板环境完成后续的部署工作。
两种量化方案以及高效模型的开发环境,地平线都提供了Docker容器和本地手动安装两种方式。我们强烈建议您使用不污染本地环境且使用方便的Docker容器。
以下我们将从安装前准备和软件安装两部分,分别为您介绍工具链使用所需的开发及运行环境要求以及环境部署流程。
