j6-plugin-set-march

为 Horizon 量化/部署流程设置 march（先询问用户版）

目标

在接入 horizon_plugin_pytorch 的训练、推理、校准、导出或编译流程中，显式设置当前使用的 BPU march。

本 Skill 强约束：

• 先询问用户想用哪个 march：只有在用户明确给出 march 后，才插入对应的 set_march(...) 代码。
• 不擅自猜具体 march：如果用户没有说明，只能提示可选值并请求确认；不能默认写死成 NASH_E / NASH_M 等。
• 只做 march 设置相关改动：不顺带改 prepare、qconfig、fake quantize、dynamic block 或其他量化逻辑。
• 优先放在脚本入口或模型构建前：通常应在模型构建、prepare、train/predict/export 之前调用。

理解 march.py 的核心用法

1) march 枚举值

horizon.march.March.NASH_E
horizon.march.March.NASH_M
horizon.march.March.NASH_P
horizon.march.March.NASH_B

2) 设置 march

horizon.march.set_march(horizon.march.March.NASH_E)

标准改法（通用模板）

1) 先向用户确认 march

在执行改动前，必须询问：

• 你想使用哪个 march？

推荐给用户的可选项表达：

• horizon.march.March.NASH_E
• horizon.march.March.NASH_P
• horizon.march.March.NASH_B

如果用户没有给出明确 march：

• 不要直接修改代码。
• 先停在方案说明阶段，等待用户确认具体 march。

2) 增加 import

如果文件里还没有 horizon_plugin_pytorch 导入，先补：

import horizon_plugin_pytorch as horizon

如果文件已经导入 horizon_plugin_pytorch，则直接复用，不重复导入。

3) 在合适位置插入 set_march

通常插入位置优先级：

1. 脚本 main() / if __name__ == "__main__": 中，且在模型构建前
2. 推理/训练/导出入口函数开头
3. 若工程统一从配置读取，则在读取完 config 后、build model 前

import horizon_plugin_pytorch as horizon


def main():
    horizon.march.set_march(horizon.march.March.NASH_E)
    model = build_model()
    ...

适用场景

这个 Skill 适合以下需求：

• 适配 horizon_plugin_pytorch 时，需要补 march 设置
• 训练/校准/验证/导出脚本里缺少 horizon.march.set_march(...)
• 需要把用户指定的 march 显式写进入口逻辑
• 需要统一脚本行为，避免依赖进程中的全局残留 march

不适用场景

以下情况不属于本 Skill 的直接处理范围：

• 给模型做 prepare(...)
• 调整 fake quantize 状态
• 插入 QuantStub / DeQuantStub
• 处理动态控制流 / dynamic block
• 根据不同 march 大规模改模型实现细节

如果用户同时提这些需求，应分步处理，march 设置仅负责其中一环。

常见插入位置建议

训练/推理/导出脚本

典型结构：

def main():
    args = parse_args()
    cfg = Config.fromfile(args.config)
    horizon.march.set_march(horizon.march.March.NASH_E)
    model = build_from_registry(cfg.model)

注意：

• set_march(...) 一般应在 build_model() / prepare() / export() 之前。
• 如果后续代码依赖 get_march() 或 with_march，更要提前设置。