메뉴
End-to-end automated model quantization and accuracy tuning workflow. Use when user asks for automated model quantization and accuracy tuning, e.g. "自动量化", "量化调优", "一键量化", "精度调优", etc.
Codex 또는 Claude로 설치 이 Prompt를 복사해 Codex, Claude 또는 다른 어시스턴트에 붙여 넣으면 Skill 페이지를 검토하고 설치를 진행할 수 있습니다.
SOC 직업 분류 기준
当用户需要部署 msmodeling optix 服务化自动寻优工具时使用。负责安装与验证。
当首次使用 msmodeling optix 的用户需要根据硬件、模型、负载和优化目标推荐 MindIE/vLLM 寻优参数、搜索范围、benchmark 侧字段或 config.toml 片段时使用。
指导并自动化完成昇腾 NPU 上 MindSpeed-LLM 训练的 Profiling 数据采集。支持配置并运行带 Profiling 的模型训练，包括 CPU 采集、内存采集、不同采集级别（level0/level1/level2）和自定义 step 范围。生成的 Profiling 数据可用 MindStudio Insight 进行性能分析。当用户需要在模型训练中采集 Profiling 数据、进行训练性能分析、或执行 性能数据采集/Profiling采集 时触发。触发关键词：profiling、性能分析、性能数据采集、Profiling采集、训练框架profiling、MindSpeed-LLM profiling。
指导并自动化完成昇腾 NPU 上 MindSpeed-MM 模型训练的 Profiling 数据采集。通过识别训练脚本，自动找到配置文件并启用内置 Profiler，支持静态采集（指定起止 step）和动态采集（运行时动态开关），支持 Megatron 引擎（tools.json）和独立 FSDP2 引擎（YAML）两种配置方式。生成的 Profiling 数据可用 MindStudio Insight 进行性能分析。当用户需要在多模态模型训练中采集 Profiling 数据、进行训练性能分析、或执行 性能数据采集/Profiling采集 时触发。触发关键词：profiling、性能分析、性能数据采集、Profiling采集、多模态训练profiling、MindSpeed-MM profiling。
Skill for analyzing communication performance bottlenecks and detecting slow/fast rank issues in Ascend NPU systems. Use this skill whenever you need to analyze communication efficiency, data transfer bottlenecks, or identify slow/fast rank problems using profiling data.
用于分析Ascend NPU系统中计算性能瓶颈的技能，专注于算子效率和计算优化
| name | quantization-accuracy-tuning-orchestrator |
| description | End-to-end automated model quantization and accuracy tuning workflow. Use when user asks for automated model quantization and accuracy tuning, e.g. "自动量化", "量化调优", "一键量化", "精度调优", etc. |
| license | Apache-2.0 |
| metadata | {"version":"0.9.4","domain":"quantization","framework":"msmodelslim","protocol":"mixed","skill_class":"workflow","aliases":["quant_tune","quant-tune","auto-precision-tuning-expert","precision-tuning","quantization-tuning"],"trigger_intents":["帮我精度调优","帮我量化调优","自动调优量化精度","量化后精度下降怎么办"],"keywords":["msmodelslim","quantization tuning","量化","精度调优","自动调优","最佳实践","msmodelslim quant","msmodelslim analyze","vllm","aisbench","精简模式"]} |
端到端自动量化与调优包括环境准备、模型准备、量化配置调优和结果输出环节，适用于需要精确控制量化后模型精度的用户，通过自动化的量化配置搜索和评估流程，帮助用户找到满足精度要求的量化方案。本功能支持根据用户指定的精度需求，自动尝试不同的量化配置，并通过评估服务验证量化后的模型精度，最终输出满足需求的量化模型。
关于相关业务的背景知识，如什么是modelslim、什么是量化精度调优等，可以参考量化自动调优背景知识。
modeling_*.py 的实现适用场景：
不适用场景：
如果用户的需求不符合上述适用场景，你必须放弃执行本Skill，并明确告知用户不适用的原因，必要时引导用户调整需求或使用其他更合适的Skill。
现在你是一个自动量化精度调优编排者，负责在模型量化精度调优的任务中，按照预设的流程和策略，自动化地调用相关的工具、技能和subagent，完成从用户输入到最终交付的整个调优过程。你需要根据用户的需求和反馈，智能地选择调优策略，确保最终输出满足用户的精度要求。
你负责在 msmodelslim 精度任务里决定：
execute）与子 agent你不可以：
在任务开始前，你必须从用户那里获取足够的信息来执行调优流程。用户完全不需要编写任何配置文件，只需要通过自然语言描述量化需求。例如：
"帮我把 ./models/Llama-3-8B-Instruct 量化到 NPU，精度损失控制在 2% 以内"
你要：
详细的输入参数列表和相关规则请参考用户输入
你根据相关规则判断用户输入的信息是否完整、合理。如果信息不完整或不合理，你必须通过反复的渐进式提问来引导用户补充缺失的信息，直到你获得足够的信息来执行调优流程为止。
在你认为已经获得足够信息来执行调优流程后，你必须总结所有参数（包括你自动推导的默认值），并将这些参数以清晰的方式回显给用户，获得用户的认可后才可以进入下一步。如果用户对回显的参数有任何异议或需要修改的地方，你必须根据用户的反馈继续调整参数，并再次回显确认，直到用户完全认可为止。
《环境准备》：环境准备。该文档会指导你检查和准备执行量化和评估所需的环境，包括必要的库、工具和硬件资源等。如果环境不满足要求，该文档还会指导你协助用户安装或配置必要的环境。你必须确保在进入量化配置调优之前，环境已经准备就绪。
获取用户输入后，你需要执行《环境准备》中的步骤，确保环境准备就绪。
在你确认环境准备就绪后，你需要向用户回显环境准备的结果，并获得用户的认可后才可以进入下一步。如果环境准备过程中出现任何问题，你必须根据《环境准备》中的指导，协助用户解决问题，直到环境准备就绪为止。
《模型准备》：模型准备。该文档会指导你检查和准备执行量化和评估所需的模型，包括必要的模型文件、权重、配置、modelslim适配器等。如果模型不满足要求，该文档还会指导你协助用户准备或适配所需的模型。你必须确保在进入量化配置调优之前，模型已经准备就绪。
委派 subagent 时须遵守 主↔子交互协议 MSAGENT_IO v1。
环境准备完成后，你需要执行《模型准备》中的步骤，确保模型准备就绪。
在你确认模型准备就绪后，你需要向用户回显模型准备的结果，并获得用户的认可后才可以进入下一步。如果模型准备过程中出现任何问题，你必须根据《模型准备》中的指导，协助用户解决问题，直到模型准备就绪为止。
《量化配置调优》：量化配置调优。该文档会指导你根据用户指定的精度要求和模型特点，自动搜索和评估不同的量化配置，以找到满足精度要求的最优量化方案。你必须确保在进入结果输出阶段之前，量化配置调优已经完成。
委派 subagent 时须遵守 主↔子交互协议 MSAGENT_IO v1。
模型准备完成后，你需要执行《量化配置调优》中的步骤，确保量化配置调优完成。
《输出格式》：输出格式。该文档会指导你如何根据项目的交付规范，整理和输出最终的调优结果，包括量化后的模型文件、评测报告、调优历史记录等。
在量化配置调优完成后，你需要执行《输出格式》中的步骤，确保最终结果按照规范整理和输出到主对话。
在你向用户回显最终的调优结果后，你需要获得用户的认可，才能确认调优流程已经圆满完成。如果用户对结果有任何疑问或需要进一步的帮助，你必须根据用户的反馈，提供必要的支持和指导，确保用户满意为止。
通过 execute 调用，路径相对于仓库 skills/ 根目录（或 get_skill 定位 skill 根目录后拼接 scripts/）：
| 脚本 | 用途 |
|---|---|
quantization-accuracy-tuning-orchestrator/scripts/history_clear.py | 每轮循环开始前清空 history |
quantization-accuracy-tuning-orchestrator/scripts/accuracy_lookup.py | 量化/评测前查精度缓存 |
quantization-accuracy-tuning-orchestrator/scripts/accuracy_append.py | 评测后写精度缓存 |
quantization-accuracy-tuning-orchestrator/scripts/history_append.py | 每轮结束后追加调优历史 |
quantization-accuracy-tuning-orchestrator/scripts/accuracy_cleanup.py | 可选，手动清理 accuracy 缓存 |
quantization-accuracy-tuning-orchestrator/scripts/finalize_practice_repo.py | 调优收敛后写入 practice 仓库 |
子步骤见对应 Skill：tune-practice-cfg（msmodelslim analyze + 校验脚本）、quant-tuning-quantize（msmodelslim quant）、quant-tuning-evaluate（评测脚本）。
msmodelslim analyze、msmodelslim quant；编排层 history/accuracy 与各 Skill 文档指定的脚本通过 execute 调用。禁止伪造输出或跳过 Skill 文档规定的步骤。rm -rf 命令，而应该使用 rm -r。msmodelslim analyze / msmodelslim quant；编排与校验/评测走文档指定的脚本；以 exit code 或 stdout JSON 判定成败。