本文档适用于使用地平线J6计算平台的所有开发者,为给您提供全方位的开发过程指导,使您能够充分了解整体的使用过程,地平线推荐您按照以下顺序进行阅读。
以下为各章节内容简述,您也可以根据需要进行对应章节的阅读。
1. 文档脉络
本章节为您准备了整体文档中相关章节的内容简介及内容跳转,以及文档的推荐阅读顺序。
- OpenExplorer概述
| 章节 | 简介 |
| 产品简介 | 本章节为您进行Open Explorer整体工具链的介绍,同时为您简单介绍OE包中的发布物内容。 |
| 关键概念 | 本章节为您提供了一些常用关键概念以及一些常用到的背景知识的介绍。 |
- 环境部署
| 章节 | 简介 |
| 安装前准备 | 本章节为您介绍在进行环境部署前需要确保的一些依赖以及环境版本等要求,以进行开发环境及运行的正确安装部署。 |
| 软件安装 | 本章节为您介绍开发环境和运行环境下,具体的环境部署步骤及内容。 |
- 快速入门
| 章节 | 简介 |
| ONNX 模型快速入门 | 本章节中,我们为您提供了 ONNX 模型从量化到上板的一个快速入门示例,帮助您了解基本使用流程,实现快速上手。 |
| PyTorch 模型快速入门 | 本章节中,我们为您提供了 PyTorch 模型从浮点模型改造、Calibration、HBIR 导出、定点模型验证到上板部署的基本流程,帮助您实现快速上手。 |
- 平台差异说明
本章节帮助您先区分不同 J6 平台在量化策略、输出精度、输入输出处理和部署能力上的差异。
如果您当前还在选择量化链路、精度配置起点或部署验证方式,建议先阅读本章节,再继续进入后续的模型量化编译和调优章节。
- 模型量化编译
| 章节 | 简介 |
| 总览 | 本章节中,我们围绕我们结合实际使用流程为您概览介绍 ONNX 模型量化和 PyTorch 模型量化两条链路,帮助您了解模型量化编译的实际使用路径。 |
| ONNX 模型量化 | 本章节中,我们围绕 ONNX 模型量化链路,为您介绍 PTQ 转换的整体流程、基础步骤、部署一致性、常见问题与排障方法,以及相关附录内容,帮助您先完成标准 PTQ 链路验证,再继续做精度和部署侧分析。 |
| PyTorch 模型量化 | 本章节中,我们围绕 PyTorch 模型量化链路,为您介绍浮点模型改造、QConfig 配置、Prepare、Calibration、QAT 训练、定点模型转换、部署一致性分析说明、精度调优和常见问题等内容,帮助您按实际使用顺序逐步完成量化和部署验证。 |
| 模型修改 | 本章节中,我们为您提供了几种常见模型修改场景的示例代码及模型修改前后HBIR模型的对比作为示例,为您介绍模型修改的方法及注意事项。 |
| X86仿真 | 本章节中,我们为您了在X86仿真平台进行模型推理的方法等相关介绍,便于您了解X86仿真平台上的使用流程。 |
- 模型部署
| 章节 | 简介 |
| 板端评测 | 本章节中,我们为您介绍如何在板端进行性能以及精度评测,涵盖评测相关的指标介绍以及评测时相关的注意事项介绍。 |
| 板端资源评估 | 本章节中,我们为您介绍如何进行板端资源的评估,涵盖BPU、带宽以及内存占用率等指标的评估。 |
| 板端部署 | 本章节中,我们为您提供模型在板端部署时的推理应用开发指导以及板端运行的C++示例说明,便于您理解模型在板端部署的相关步骤以及注意事项。 |
- 模型调优指导
| 章节 | 简介 |
| 模型性能调优指导 | 本章节中,我们为您介绍当进行性能分析后,如果性能未达到您的预期情况,地平线对提升模型性能的建议与措施以及当您需要在J6计算平台上进行高效模型设计时,地平线的通用指导建议。 |
| 模型精度调优指导 | 本章节中,我们为您提供了 ONNX 模型及 PyTorch 模型进行模型量化编译后的精度调优指导以及对应的精度调优示例。 |
- 统一计算平台(UCP)
| 章节 | 简介 |
| 总览 | 本章节为您介绍在地平线平台进行应用开发的总体介绍,使用统一计算平台完成视觉处理、深度学习模型部署的方法步骤。 |
| 功能支持度对比列表 | 本章节为您提供在Linux和QNX操作系统下,J6系列计算平台在当前版本UCP中的支持特性差异介绍。 |
| 视觉处理开发 | 本章节为您介绍视觉处理相关的基础知识及接口介绍,可以完成视觉算子的调用,并使用相关硬件进行加速。 |
| 高性能算子库 | 本章节为您介绍高性能算子库的基础知识及接口介绍,封装了一些常用的高性能算子,可以通过调用HPL模块中的对应接口实现算子功能的灵活部署。 |
| 自定义算子 | 本章节为您介绍UCP自定义算子开发的基础知识及接口介绍,并封装了一些参考示例。 |
| 目标检测全流程示例 | 本章节为您介绍了目标检测全流程示例如何在J6上运行一个检测模型并展示结果。 |
| 常见问题及错误码 | 本章节为您提供一些异构编程过程中常见问题的解答以及错误码说明。 |
- API
- 工具介绍
| 章节 | 简介 |
| 量化链路工具 | 本章节为您介绍算法工具链提供的量化链路工具,协助您快速了解量化链路中的工具使用及其基本功能。 |
| 性能分析工具 | 本章节为您介绍我们提供的支持对模型或perf文件进行性能分析的工具hb_analyzer的使用及其基本功能。 |
| 模型推理工具 | 本章节为您介绍hrt_model_exec以及hbm_infer工具的使用方式,以及在模型推理过程中的常用命令操作的简单介绍。 |
| UCP性能分析工具 | 本章节为您介绍UCP trace以及hrt_ucp_monitor工具的使用方式。 |
- 示例
| 章节 | 简介 |
| 模型性能Benchmark | 本章节为您展示在J6不同计算平台上,Benchmark模型相关精度及性能数据,便于您清晰获知。 |
| 模型部署实践指导实例 | 本章节中,我们以公版ResNet18示例为例,给出一些典型场景下的PTQ通路全流程实践指导,帮助您了解一个算法模型使用PTQ方案量化+上板操作部署实践全流程。 |
- 附录
| 章节 | 简介 |
| 工具链算子支持约束列表 | 本章节为您列出地平线支持的算子列表,并给出算子所属类型、算子约束条件以及通用使用限制等相关内容供您在使用过程中进行参考。 |
| 数据集下载 | 本章节我们给出在使用示例模型时会使用到的数据集的下载链接供您参考。 |
- 授权使用协议及第三方软件漏洞说明