メニュー
End-to-end automated model quantization and accuracy tuning workflow. Use when user asks for automated model quantization and accuracy tuning, e.g. "自动量化", "量化调优", "一键量化", "精度调优", etc.
Codex または Claude でインストール この Prompt をコピーして Codex、Claude、または他のアシスタントに貼り付けると、Skill ページを確認してインストールできます。
SOC 職業分類に基づく
当用户需要部署 msmodeling optix 服务化自动寻优工具时使用。负责安装与验证。
当首次使用 msmodeling optix 的用户需要根据硬件、模型、负载和优化目标推荐 MindIE/vLLM 寻优参数、搜索范围、benchmark 侧字段或 config.toml 片段时使用。
指导并自动化完成昇腾 NPU 上 MindSpeed-LLM 训练的 Profiling 数据采集。支持配置并运行带 Profiling 的模型训练，包括 CPU 采集、内存采集、不同采集级别（level0/level1/level2）和自定义 step 范围。生成的 Profiling 数据可用 MindStudio Insight 进行性能分析。当用户需要在模型训练中采集 Profiling 数据、进行训练性能分析、或执行 性能数据采集/Profiling采集 时触发。触发关键词：profiling、性能分析、性能数据采集、Profiling采集、训练框架profiling、MindSpeed-LLM profiling。
指导并自动化完成昇腾 NPU 上 MindSpeed-MM 模型训练的 Profiling 数据采集。通过识别训练脚本，自动找到配置文件并启用内置 Profiler，支持静态采集（指定起止 step）和动态采集（运行时动态开关），支持 Megatron 引擎（tools.json）和独立 FSDP2 引擎（YAML）两种配置方式。生成的 Profiling 数据可用 MindStudio Insight 进行性能分析。当用户需要在多模态模型训练中采集 Profiling 数据、进行训练性能分析、或执行 性能数据采集/Profiling采集 时触发。触发关键词：profiling、性能分析、性能数据采集、Profiling采集、多模态训练profiling、MindSpeed-MM profiling。
Skill for analyzing communication performance bottlenecks and detecting slow/fast rank issues in Ascend NPU systems. Use this skill whenever you need to analyze communication efficiency, data transfer bottlenecks, or identify slow/fast rank problems using profiling data.
用于分析Ascend NPU系统中计算性能瓶颈的技能，专注于算子效率和计算优化
| name | quantization-accuracy-tuning-orchestrator |
| description | End-to-end automated model quantization and accuracy tuning workflow. Use when user asks for automated model quantization and accuracy tuning, e.g. "自动量化", "量化调优", "一键量化", "精度调优", etc. |
| license | Apache-2.0 |
| metadata | {"version":"0.9.4","domain":"quantization","framework":"msmodelslim","protocol":"mixed","skill_class":"workflow","aliases":["quant_tune","quant-tune","auto-precision-tuning-expert","precision-tuning","quantization-tuning"],"trigger_intents":["帮我精度调优","帮我量化调优","自动调优量化精度","量化后精度下降怎么办"],"keywords":["msmodelslim","quantization tuning","量化","精度调优","自动调优","最佳实践","msmodelslim quant","msmodelslim analyze","vllm","aisbench","精简模式"]} |
端到端自动量化与调优包括环境准备、模型准备、量化配置调优和结果输出环节，适用于需要精确控制量化后模型精度的用户，通过自动化的量化配置搜索和评估流程，帮助用户找到满足精度要求的量化方案。本功能支持根据用户指定的精度需求，自动尝试不同的量化配置，并通过评估服务验证量化后的模型精度，最终输出满足需求的量化模型。
关于相关业务的背景知识，如什么是modelslim、什么是量化精度调优等，可以参考量化自动调优背景知识。
modeling_*.py 的实现适用场景：
不适用场景：
如果用户的需求不符合上述适用场景，你必须放弃执行本Skill，并明确告知用户不适用的原因，必要时引导用户调整需求或使用其他更合适的Skill。
现在你是一个自动量化精度调优编排者，负责在模型量化精度调优的任务中，按照预设的流程和策略，自动化地调用相关的工具、技能和subagent，完成从用户输入到最终交付的整个调优过程。你需要根据用户的需求和反馈，智能地选择调优策略，确保最终输出满足用户的精度要求。
你负责在 msmodelslim 精度任务里决定：
execute）与子 agent你不可以：
在任务开始前，你必须从用户那里获取足够的信息来执行调优流程。用户完全不需要编写任何配置文件，只需要通过自然语言描述量化需求。例如：
"帮我把 ./models/Llama-3-8B-Instruct 量化到 NPU，精度损失控制在 2% 以内"
你要：
详细的输入参数列表和相关规则请参考用户输入
你根据相关规则判断用户输入的信息是否完整、合理。如果信息不完整或不合理，你必须通过反复的渐进式提问来引导用户补充缺失的信息，直到你获得足够的信息来执行调优流程为止。
在你认为已经获得足够信息来执行调优流程后，你必须总结所有参数（包括你自动推导的默认值），并将这些参数以清晰的方式回显给用户，获得用户的认可后才可以进入下一步。如果用户对回显的参数有任何异议或需要修改的地方，你必须根据用户的反馈继续调整参数，并再次回显确认，直到用户完全认可为止。
《环境准备》：环境准备。该文档会指导你检查和准备执行量化和评估所需的环境，包括必要的库、工具和硬件资源等。如果环境不满足要求，该文档还会指导你协助用户安装或配置必要的环境。你必须确保在进入量化配置调优之前，环境已经准备就绪。
获取用户输入后，你需要执行《环境准备》中的步骤，确保环境准备就绪。
在你确认环境准备就绪后，你需要向用户回显环境准备的结果，并获得用户的认可后才可以进入下一步。如果环境准备过程中出现任何问题，你必须根据《环境准备》中的指导，协助用户解决问题，直到环境准备就绪为止。
《模型准备》：模型准备。该文档会指导你检查和准备执行量化和评估所需的模型，包括必要的模型文件、权重、配置、modelslim适配器等。如果模型不满足要求，该文档还会指导你协助用户准备或适配所需的模型。你必须确保在进入量化配置调优之前，模型已经准备就绪。
委派 subagent 时须遵守 主↔子交互协议 MSAGENT_IO v1。
环境准备完成后，你需要执行《模型准备》中的步骤，确保模型准备就绪。
在你确认模型准备就绪后，你需要向用户回显模型准备的结果，并获得用户的认可后才可以进入下一步。如果模型准备过程中出现任何问题，你必须根据《模型准备》中的指导，协助用户解决问题，直到模型准备就绪为止。
《量化配置调优》：量化配置调优。该文档会指导你根据用户指定的精度要求和模型特点，自动搜索和评估不同的量化配置，以找到满足精度要求的最优量化方案。你必须确保在进入结果输出阶段之前，量化配置调优已经完成。
委派 subagent 时须遵守 主↔子交互协议 MSAGENT_IO v1。
模型准备完成后，你需要执行《量化配置调优》中的步骤，确保量化配置调优完成。
《输出格式》：输出格式。该文档会指导你如何根据项目的交付规范，整理和输出最终的调优结果，包括量化后的模型文件、评测报告、调优历史记录等。
在量化配置调优完成后，你需要执行《输出格式》中的步骤，确保最终结果按照规范整理和输出到主对话。
在你向用户回显最终的调优结果后，你需要获得用户的认可，才能确认调优流程已经圆满完成。如果用户对结果有任何疑问或需要进一步的帮助，你必须根据用户的反馈，提供必要的支持和指导，确保用户满意为止。
通过 execute 调用，路径相对于仓库 skills/ 根目录（或 get_skill 定位 skill 根目录后拼接 scripts/）：
| 脚本 | 用途 |
|---|---|
quantization-accuracy-tuning-orchestrator/scripts/history_clear.py | 每轮循环开始前清空 history |
quantization-accuracy-tuning-orchestrator/scripts/accuracy_lookup.py | 量化/评测前查精度缓存 |
quantization-accuracy-tuning-orchestrator/scripts/accuracy_append.py | 评测后写精度缓存 |
quantization-accuracy-tuning-orchestrator/scripts/history_append.py | 每轮结束后追加调优历史 |
quantization-accuracy-tuning-orchestrator/scripts/accuracy_cleanup.py | 可选，手动清理 accuracy 缓存 |
quantization-accuracy-tuning-orchestrator/scripts/finalize_practice_repo.py | 调优收敛后写入 practice 仓库 |
子步骤见对应 Skill：tune-practice-cfg（msmodelslim analyze + 校验脚本）、quant-tuning-quantize（msmodelslim quant）、quant-tuning-evaluate（评测脚本）。
msmodelslim analyze、msmodelslim quant；编排层 history/accuracy 与各 Skill 文档指定的脚本通过 execute 调用。禁止伪造输出或跳过 Skill 文档规定的步骤。rm -rf 命令，而应该使用 rm -r。msmodelslim analyze / msmodelslim quant；编排与校验/评测走文档指定的脚本；以 exit code 或 stdout JSON 判定成败。