本文档适用于使用地平线J6计算平台的所有开发者,为给您提供全方位的开发过程指导,使您能够充分了解整体的使用过程,地平线推荐您按照以下顺序进行阅读。
以下为各章节内容简述,您也可以根据需要进行对应章节的阅读。
1. 文档脉络
本章节为您准备了整体文档中相关章节的内容简介及内容跳转,以及文档的推荐阅读顺序。
- OpenExplorer概述
| 章节 | 简介 |
| 产品简介 | 本章节为您进行Open Explorer整体工具链的介绍,同时为您简单介绍OE包中的发布物内容。 |
| 关键概念 | 本章节为您提供了一些常用关键概念以及一些常用到的背景知识的介绍。 |
- 环境部署
| 章节 | 简介 |
| 安装前准备 | 本章节为您介绍在进行环境部署前需要确保的一些依赖以及环境版本等要求,以进行开发环境及运行的正确安装部署。 |
| 软件安装 | 本章节为您介绍开发环境和运行环境下,具体的环境部署步骤及内容。 |
- 快速入门
本章节中,我们为您提供了一个算法模型使用PTQ方案量化+上板的一个快速入门示例,帮助您了解浮点转换工具链训练后量化(PTQ)的量化与上板的基本使用流程,帮助您实现快速上手。
- 模型量化编译
| 章节 | 简介 |
| 训练后量化(PTQ) | 本章节中,我们从PTQ转换的基本流程、一致性分析、示例包介绍、常见问题及常见异常故障现象通用解决建议以及数据归一化处理相关参数说明,图片缩放裁剪时使用的各个transformer的相关介绍等方面,为您详细介绍PTQ训练后量化的整体流程及全过程详解。 |
| 量化感知训练(QAT) | 本章节中,我们从QAT转换的基本流程、一致性分析、算子融合、Eager及FX Quantization原理介绍、常见问题常见问题及常见异常故障现象通用解决建议的相关介绍等方面,为您详细介绍QAT量化感知训练的整体流程及全过程详解。 |
| 模型修改 | 本章节中,我们为您提供了几种常见模型修改场景的示例代码及模型修改前后HBIR模型的对比作为示例,为您介绍模型修改的方法及注意事项。 |
| X86仿真 | 本章节中,我们为您了在X86仿真平台进行模型推理的方法等相关介绍,便于您了解X86仿真平台上的使用流程。 |
- 模型部署
| 章节 | 简介 |
| 板端评测 | 本章节中,我们为您介绍如何在板端进行性能以及精度评测,涵盖评测相关的指标介绍以及评测时相关的注意事项介绍。 |
| 板端资源评估 | 本章节中,我们为您介绍如何进行板端资源的评估,涵盖BPU、带宽以及内存占用率等指标的评估。 |
| 板端部署 | 本章节中,我们为您提供模型在板端部署时的推理应用开发指导以及板端运行的C++示例说明,便于您理解模型在板端部署的相关步骤以及注意事项。 |
- 模型调优指导
| 章节 | 简介 |
| 模型性能调优指导 | 本章节中,我们为您介绍当进行性能分析后,如果性能未达到您的预期情况,地平线对提升模型性能的建议与措施以及当您需要在J6计算平台上进行高效模型设计时,地平线的通用指导建议。 |
| 模型精度调优指导 | 本章节中,我们为您提供了PTQ、QAT两条链路下进行模型量化编译后的精度调优指导以及对应的精度调优示例。 |
- 参考算法
| 章节 | 简介 |
| 简介 | 本章节为您带来地平线参考算法的简单介绍。 |
| 使用框架 | 本章节为您介绍Horizon Torch Sample的模块框架以及执行引擎的简单介绍。 |
| 支持模型列表及性能基准 | 本章节为您列出参考算法包支持的模型性能指标数据以及相关指标介绍。 |
| 使用工具 | 本章节中,我们为您提供了Horizon Torch Sample包内提供的工具的使用说明。 |
| 量化训练 | 本章节中,我们为您提供了Horizon Torch Sample在进行量化训练时需要的操作的相关介绍。 |
| 模型示例 | 本章节为您带来Horizon Torch Sample提供的示例模型训练的详细介绍。 |
| 常见问题 | 本章节为您提供在使用Horizon Torch Sample时的常见问题以及通用解决建议。 |
- 统一计算平台(UCP)
| 章节 | 简介 |
| 总览 | 本章节为您介绍在地平线平台进行应用开发的总体介绍,使用统一计算平台完成视觉处理、深度学习模型部署的方法步骤。 |
| 功能支持度对比列表 | 本章节为您提供在Linux和QNX操作系统下,J6系列计算平台在当前版本UCP中的支持特性差异介绍。 |
| 视觉处理开发 | 本章节为您介绍视觉处理相关的基础知识及接口介绍,可以完成视觉算子的调用,并使用相关硬件进行加速。 |
| 高性能算子库 | 本章节为您介绍高性能算子库的基础知识及接口介绍,封装了一些常用的高性能算子,可以通过调用HPL模块中的对应接口实现算子功能的灵活部署。 |
| 自定义算子 | 本章节为您介绍UCP自定义算子开发的基础知识及接口介绍,并封装了一些参考示例。 |
| 目标检测全流程示例 | 本章节为您介绍了目标检测全流程示例如何在J6上运行一个检测模型并展示结果。 |
| 常见问题及错误码 | 本章节为您提供一些异构编程过程中常见问题的解答以及错误码说明。 |
- API
- 工具介绍
| 章节 | 简介 |
| PTQ转换工具 | 本章节为您介绍算法工具链提供的PTQ工具包中的工具,协助您快速了解PTQ转换流程中的工具使用及其基本功能。 |
| QAT精度调优工具 | 本章节为您介绍使用Horizon Plugin Pytorch进行量化感知训练遇到精度掉点问题时,可以使用的精度调优工具的使用方式及功能。 |
| 性能分析工具 | 本章节为您介绍我们提供的支持对模型或perf文件进行性能分析的工具hb_analyzer的使用及其基本功能。 |
| 模型推理工具手册 | 本章节为您介绍hrt_model_exec以及hbm_infer工具的使用方式,以及在模型推理过程中的常用命令操作的简单介绍。 |
| UCP性能分析工具 | 本章节为您介绍UCP trace以及hrt_ucp_monitor工具的使用方式。 |
- 示例
| 章节 | 简介 |
| 模型性能Benchmark | 本章节为您展示在J6不同计算平台上,Benchmark模型相关精度及性能数据,便于您清晰获知。 |
| 模型部署实践指导实例 | 本章节中,我们以公版ResNet18示例为例,给出一些典型场景下的PTQ通路全流程实践指导,帮助您了解一个算法模型使用PTQ方案量化+上板操作部署实践全流程。 |
- 附录
| 章节 | 简介 |
| 工具链算子支持约束列表 | 本章节为您列出地平线支持的算子列表,并给出算子所属类型、算子约束条件以及通用使用限制等相关内容供您在使用过程中进行参考。 |
| 数据集下载 | 本章节我们给出在使用示例模型时会使用到的数据集的下载链接供您参考。 |
- 授权使用协议及第三方软件漏洞说明