with one click
msmodeling-optix-deploy
当用户需要部署 msmodeling optix 服务化自动寻优工具时使用。负责安装与验证。
Install with Codex or Claude Copy this prompt, paste it into Codex, Claude, or another assistant, and let it review the skill page and install it for you.
Menu
当用户需要部署 msmodeling optix 服务化自动寻优工具时使用。负责安装与验证。
Install with Codex or Claude Copy this prompt, paste it into Codex, Claude, or another assistant, and let it review the skill page and install it for you.
Based on SOC occupation classification
当首次使用 msmodeling optix 的用户需要根据硬件、模型、负载和优化目标推荐 MindIE/vLLM 寻优参数、搜索范围、benchmark 侧字段或 config.toml 片段时使用。
指导并自动化完成昇腾 NPU 上 MindSpeed-LLM 训练的 Profiling 数据采集。支持配置并运行带 Profiling 的模型训练,包括 CPU 采集、内存采集、不同采集级别(level0/level1/level2)和自定义 step 范围。生成的 Profiling 数据可用 MindStudio Insight 进行性能分析。当用户需要在模型训练中采集 Profiling 数据、进行训练性能分析、或执行 性能数据采集/Profiling采集 时触发。触发关键词:profiling、性能分析、性能数据采集、Profiling采集、训练框架profiling、MindSpeed-LLM profiling。
指导并自动化完成昇腾 NPU 上 MindSpeed-MM 模型训练的 Profiling 数据采集。通过识别训练脚本,自动找到配置文件并启用内置 Profiler,支持静态采集(指定起止 step)和动态采集(运行时动态开关),支持 Megatron 引擎(tools.json)和独立 FSDP2 引擎(YAML)两种配置方式。生成的 Profiling 数据可用 MindStudio Insight 进行性能分析。当用户需要在多模态模型训练中采集 Profiling 数据、进行训练性能分析、或执行 性能数据采集/Profiling采集 时触发。触发关键词:profiling、性能分析、性能数据采集、Profiling采集、多模态训练profiling、MindSpeed-MM profiling。
Skill for analyzing communication performance bottlenecks and detecting slow/fast rank issues in Ascend NPU systems. Use this skill whenever you need to analyze communication efficiency, data transfer bottlenecks, or identify slow/fast rank problems using profiling data.
用于分析Ascend NPU系统中计算性能瓶颈的技能,专注于算子效率和计算优化
分析MindStudio Insight采集的profiling数据识别快慢卡,以及分析系统trace文件识别Host侧进程性能问题。当用户需要分析NPU卡间性能差异或Host侧进程瓶颈时调用。
| name | msmodeling-optix-deploy |
| description | 当用户需要部署 msmodeling optix 服务化自动寻优工具时使用。负责安装与验证。 |
| version | 0.1.0 |
| source | local-session-analysis |
本 skill 负责将工具装好并验证能用。
其他内容由对应 skill 负责:
msmodeling-env-installerconfig.toml 配置:msmodeling-optix-param-recommend寻优工具仅支持以下昇腾推理产品:
| 产品类型 | 是否支持 |
|---|---|
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | √ |
| Atlas 推理系列产品 | √ |
| Atlas 训练系列产品 | x |
- 目标运行环境不支持 Windows
- Atlas 训练系列产品不支持,请确认使用的是推理系列产品
用户说"安装""部署"时,直接执行以下步骤,不要只给命令。
为减少安装等待时间,默认优先使用阿里云镜像:
https://mirrors.aliyun.com/pypi/simple/
注意:不要写成
PYPI_MIRROR=... python -m pip install -i "$PYPI_MIRROR" ...。 这种写法里"$PYPI_MIRROR"会在临时环境变量生效前被 shell 展开,结果可能变成空字符串,导致 pip 实际拿到空的 index URL。优先直接把镜像地址写进
-i参数;如果确实要用环境变量,必须先单独export,再在后续命令里使用。
若用户已有公司内网镜像、离线源或明确指定其他源,则尊重用户配置,不强制改成阿里云镜像。
寻优工具已集成在 msmodeling 项目中。检查安装入口与默认配置:
ls pyproject.toml optix/config.toml
若仓库不存在,直接克隆:
git clone https://gitcode.com/Ascend/msmodeling.git
cd msmodeling
msmodeling 仓库结构:
msmodeling/ ← 仓库根目录
├── pyproject.toml ← optix 安装入口
└── optix/
├── config.toml ← 寻优工具默认配置
└── ... ← 寻优工具源码(optimizer 代码等)
安装时不要依赖上一次 shell 的 cd 状态。应优先使用单条命令,把切目录和安装写在一起,避免误在其他目录执行 pip install -e .。
推荐安装命令如下:
cd msmodeling && python -m pip install -i https://mirrors.aliyun.com/pypi/simple/ -e .
若用户明确要求使用其他镜像,把上面的 URL 替换成用户指定源即可。
注意:当前仓库中
msmodelingCLI 由仓库根目录的pyproject.toml提供,安装时应进入msmodeling/仓库根目录,而不是在optix/子目录或其他位置执行pip install -e .。
msmodeling optix --help
告诉用户安装是否成功。若失败,给出具体缺失项和修复建议;并给下一步建议:运行环境检查、配置 config.toml 或开始参数推荐。
卸载前说明会移除 Python 包,征得同意后执行:
python -m pip uninstall optix