安装前准备
开发环境准备
开发机准备
为了顺利地使用工具链,地平线建议您选择的开发机应满足以下要求:
更多关于CUDA与显卡的兼容性问题请参考 NVIDIA官网信息 。
Docker容器准备
地平线要求的Docker基础环境如下,请提前在您的宿主机上完成安装:
-
Docker(20.10.10或更高版本,建议安装20.10.10版本),详见 Docker安装手册 。
-
NVIDIA Container Toolkit(1.16.2或更高版本,建议安装1.17.8),详见 NVIDIA Container Toolkit安装手册。
完成Docker基础环境安装后,还需要将无root权限的用户添加到Docker用户组中。参考命令如下:
本地手动安装前准备
本节将为您分别介绍两种量化方案和地平线开源的高效模型训练的环境相关依赖及说明。
PTQ量化环境依赖
PTQ量化方案对于开发机操作环境的基础软件依赖如下:
- 操作系统:Ubuntu22.04
- Python3.10
- libpython3.10
- python3-devel
- python3-pip
- gcc&g++: 12.2.1
- graphviz
QAT量化环境依赖
QAT量化环境在本地环境进行安装,需要先确保已满足以下基础环境条件。 量化训练工具能够训练起来所必需的环境依赖如下表:
在完成QAT模型的训练后,您可以在当前训练环境安装相关工具包,并直接通过接口调用的方式完成后续的模型转换工作。
高效模型浮点训练环境说明
地平线在 samples/ai_toolchain/horizon_model_train_sample 路径下开源了一些高效模型源码,其浮点及QAT训练基础环境请参考 QAT量化环境依赖 。
运行环境准备
当模型完成量化转换后,即可将编译好的模型部署在开发板环境推理运行。 运行环境的部署需要您先准备好一块烧写好系统镜像的开发板,再将相关补充文件拷贝到开发板中即可。
在此之前需要验证下开发板的可用性,若无问题,将可用系统镜像烧写到开发板中即可。系统镜像的对应版本范围请参考 版本发布说明 章节中的描述。
系统镜像BSP版本获取、升级指导等更多相关信息,请联系地平线系统软件技术支持人员获取。
