板端资源评估

在进行板端部署之前,您可以通过资源监控工具 hrt_ucp_monitor 来评估硬件资源的使用情况,从而优化模型部署方案。 该工具可以监控地平线计算平台上的硬件 IP(如 BPU、DSP 等)的占用率和内存信息,帮助您了解模型在实际运行中的资源消耗情况。

下方为您提供在进行板端资源评估时,hrt_ucp_monitor工具的具体方法介绍。

不指定参数,使用默认参数运行

运行hrt_ucp_monitor时,如果不指定参数,则使用默认参数运行。默认开启所有硬件IP监控,以交互模式运行, BPU 和 DSP 每秒采样 500 次,硬件 IP 占用率每 1000ms 刷新一次。

hrt_ucp_monitor
ucp_monitor_default

使用batch参数进行批处理

批处理模式下,不支持接收按键操作,hrt_ucp_monitor 每次刷新数据都将换行重新输出,适用于将数据重定向到文件。

在终端输出结果

hrt_ucp_monitor -b
ucp_monitor_batch

重定向输出到文件

hrt_ucp_monitor -b > ucp_monitor.txt

使用delay参数设置刷新时间

刷新时间设置为 3 秒,表示每 3 秒刷新一次占用率数据。

hrt_ucp_monitor -d 3000

使用freq参数设置周期采样次数

设置 BPU 和 DSP 的 Busy 状态的采样周期为每秒采样 100 次。

hrt_ucp_monitor -f 100

使用number参数设置最大刷新次数

hrt_ucp_monitor -n 2    # 交互模式
hrt_ucp_monitor -b -n 2 # 批处理模式

使用time参数设置刷新时间

工具默认刷新时间为 1s,设置运行 10s 后退出。

hrt_ucp_monitor -t 10

使用enable参数输出 BPU 的占用率数据

工具将只输出 BPU 的占用率数据。

hrt_ucp_monitor -e bpu
ucp_monitor_bpu

使用verbose参数获取日志信息

用于显示 hrt_ucp_monitor 运行过程中更详细的日志信息,比如工具使用的参数。

hrt_ucp_monitor -v
ucp_monitor_verbose