安装前准备

开发环境准备

开发机准备

为了顺利地使用工具链,地平线建议您选择的开发机应满足以下要求:

硬件/操作系统要求
CPUCPU I3以上或者同级别E3/E5的处理器
内存16G或以上级别
GPUCUDA12.8、驱动版本Linux:>= 550.163.01
适配显卡包括但不限于:
1. GeForce RTX 3090
2. GeForce RTX 2080 Ti
3. NVIDIA TITAN V
4. Tesla V100S-PCIE-32GB
5. A100
系统原生Ubuntu 22.04

更多关于CUDA与显卡的兼容性问题请参考 NVIDIA官网信息

Docker容器准备

地平线要求的Docker基础环境如下,请提前在您的宿主机上完成安装:

完成Docker基础环境安装后,还需要将无root权限的用户添加到Docker用户组中。参考命令如下:

sudo groupadd docker
sudo gpasswd -a ${USER} docker
sudo service docker restart

本地手动安装前准备

本节将为您分别介绍两种量化方案和地平线开源的高效模型训练的环境相关依赖及说明。

PTQ量化环境依赖

PTQ量化方案对于开发机操作环境的基础软件依赖如下:

  • 操作系统:Ubuntu22.04
  • Python3.10
  • libpython3.10
  • python3-devel
  • python3-pip
  • gcc&g++: 12.2.1
  • graphviz

QAT量化环境依赖

QAT量化环境在本地环境进行安装,需要先确保已满足以下基础环境条件。 量化训练工具能够训练起来所必需的环境依赖如下表:

硬件/操作系统GPUCPU
osUbuntu22.04Ubuntu22.04
cuda12.8N/A
python3.103.10
torch2.8.0+cu1282.8.0+cpu
torchvision0.23.0+cu1280.23.0+cpu
推荐显卡titan v/2080ti/v100/3090N/A

在完成QAT模型的训练后,您可以在当前训练环境安装相关工具包,并直接通过接口调用的方式完成后续的模型转换工作。

高效模型浮点训练环境说明

地平线在 samples/ai_toolchain/horizon_model_train_sample 路径下开源了一些高效模型源码,其浮点及QAT训练基础环境请参考 QAT量化环境依赖

运行环境准备

当模型完成量化转换后,即可将编译好的模型部署在开发板环境推理运行。 运行环境的部署需要您先准备好一块烧写好系统镜像的开发板,再将相关补充文件拷贝到开发板中即可。

在此之前需要验证下开发板的可用性,若无问题,将可用系统镜像烧写到开发板中即可。系统镜像的对应版本范围请参考 版本发布说明 章节中的描述。

系统镜像BSP版本获取、升级指导等更多相关信息,请联系地平线系统软件技术支持人员获取。