j6-ucp-model-perf-eval

Model Perf Eval

通过 SSH/SCP 将 hrt_model_exec 部署到远程 J6 aarch64 开发板，遍历用户指定的 thread_num 和 core_id 参数组合运行 perf 评测，收集 --profile_path 结构化输出与 BPU/CPU 段级性能数据，生成性能汇总报告与最优配置推荐，并将报告保存到本地文件。

适用场景

• 在 J6 实板上评测 .hbm 模型推理性能（延迟、FPS）
• 扫描不同 thread_num / core_id 组合，探索最佳性能配置
• 远程部署 hrt_model_exec 到 aarch64 板端并执行 benchmark
• 对比不同配置的性能差异，生成结构化报告
• 分析模型 BPU/CPU 段的执行耗时占比

触发关键词：性能测试、perf、benchmark、性能评估、板端测试、模型吞吐量、参数扫描

工作流程

严格按照以下 6 步顺序执行，不可跳步。

Step 1：收集信息

向用户收集以下信息。缺少必填项时，必须逐一询问，全部收集完毕后方可进入 Step 2。

项目	必填	默认值	示例
板端 IP 地址	是	-	192.168.1.100
SSH 用户名	是	root	root
SSH 端口	否	22
认证方式	是	-	密码 或 密钥路径（如 ~/.ssh/id_rsa）
模型文件路径	是	-	/data/models/resnet50.hbm（板端）或本地路径
model_name	否	自动检测	resnet50
thread_num 范围	是	1,2,4,8	1-8 或 1,2,4,8,16
core_id 选项	是	0	0,1
frame_count	否	200	500
板端部署目录	是	/tmp/hrt_model_exec
enable_warmup	否	true
enable_mem_lru	否	true

必须明确确认的信息：

1. 板端 IP 地址 — 若用户未提供，直接询问："请提供开发板的 IP 地址"
2. SSH 用户名 — 若用户未提供，询问："SSH 登录用户名是什么？（默认 root）"
3. 认证方式 — 若用户未提供，询问："SSH 认证方式？密码或密钥路径"
4. 模型文件路径 — 若用户未提供，询问："请提供 .hbm 模型文件路径（板端路径或本地路径）"
5. 模型文件位置 — 若用户只给了路径但未说明位置，询问："该模型文件在本地还是已在板端？"
6. 板端部署目录 — 若用户未指定，使用默认值 /tmp/hrt_model_exec，但需确认

thread_num 范围解析规则：

• 范围写法 1-8：展开为 1,2,3,4,5,6,7,8
• 列表写法 1,2,4,8：直接使用
• 展开后所有值必须在 [1, 32] 范围内

core_id 说明：

• 0 = 任意核心（运行时自动选择）
• 1 = BPU Core 0
• 2 = BPU Core 1
• 1,2 = 双核并行
• J6 有 2 个 BPU 核心，有效值：0, 1, 2, "1,2"

模型文件位置判断：

• 用户说明在板端：直接使用板端路径
• 用户提供本地路径：通过 SCP 上传到板端部署目录

Step 2：检查/构建 hrt_model_exec

1. 检查本地 tools/hrt_model_exec/output_shared_J6_aarch64/ 目录是否存在且完整：
   • 必须存在：aarch64/bin/hrt_model_exec
   • 必须存在：aarch64/lib/ 下的 .so 文件
2. 若目录不存在或不完整，执行构建：

   cd tools/hrt_model_exec && bash build_aarch64.sh
   

3. 构建依赖 LINARO_GCC_ROOT 环境变量指向交叉编译工具链。若构建失败，提示用户检查工具链配置。

Step 3：部署到远程板端

1. SCP 部署 hrt_model_exec 工具目录：

   scp -P <port> -r tools/hrt_model_exec/output_shared_J6_aarch64/ <user>@<ip>:<deploy_dir>/
   

2. 若模型文件在本地，SCP 上传：

   scp -P <port> <local_model_path> <user>@<ip>:<deploy_dir>/model.hbm
   

3. 通过 SSH 验证部署：

   ssh -p <port> <user>@<ip> "ls <deploy_dir>/aarch64/bin/hrt_model_exec && ls <deploy_dir>/aarch64/lib/"
   

4. 运行 model_info 检查模型信息，确认编译核数：

   ssh -p <port> <user>@<ip> "cd <deploy_dir>/script && \
     export LD_LIBRARY_PATH=../aarch64/lib/:\$LD_LIBRARY_PATH && \
     ../aarch64/bin/hrt_model_exec model_info --model_file=<model_path>"
   

   若用户配置了多核 core_id 但模型仅编译为单核，给出警告提示。