图预测工具

算法包提供 tools/infer_hbir.py 工具用于定点模型的推理验证(仅支持 int-infer 阶段), 核心用于加载量化后的 HBIR 格式模型,结合指定输入完成推理并可视化输出结果,验证模型在地平线计算平台上的推理正确性。

使用方法

运行 tools/infer_hbir.py,支持自定义输入文件或从数据集采样输入,完成推理结果的可视化验证。

参数介绍

参数描述
--config, -cconfig文件路径。
--model-inputs可选参数,表示输入数据的保存路径,如果不传这个参数,则会去config文件中寻找input_path
--save-path可视化结果的保存路径。
--use-dataset可选参数,如果没有传入--model-inputs参数,并且config文件中不存在input_path,或者input_path路径下找不到数据,那么该参数需要指定为True,表示从config文件的dataset中加载数据。

使用示例

基于指定的输入文件完成 resnet50_imagenet 定点模型推理,推理结果可视化文件保存至指定路径。

python3 tools/infer_hbir.py \
        --config       configs/classification/resnet50_imagenet.py \
        --model-inputs inputs/resnet50_sample.npy \
        --save-path    outputs/infer_visualization

config配置文件的详细介绍可参考config配置章节。