메뉴
Matmul/Cube/GEMM/BMM 单算子直调生成（Blaze/tensor_api 路径）。当用户提到 Blaze 时必须使用此 skill。覆盖纯AIC/StreamK/FixpOpti 三模板选型、改造、Tiling 及排错。不适用 Vector 逐元素/归约算子或非 Blaze 路径。
Codex 또는 Claude로 설치 이 Prompt를 복사해 Codex, Claude 또는 다른 어시스턴트에 붙여 넣으면 Skill 페이지를 검토하고 설치를 진행할 수 있습니다.
SOC 직업 분류 기준
| name | external-cannbot-ops-ascendc-blaze-best-practice |
| description | Matmul/Cube/GEMM/BMM 单算子直调生成（Blaze/tensor_api 路径）。当用户提到 Blaze 时必须使用此 skill。覆盖纯AIC/StreamK/FixpOpti 三模板选型、改造、Tiling 及排错。不适用 Vector 逐元素/归约算子或非 Blaze 路径。 |
| original-name | ascendc-blaze-best-practice |
| synced-from | https://gitcode.com/cann/cannbot-skills |
| synced-date | 2026-05-26 |
| synced-commit | ac5bbd2b4cf427d011874e11f8d1e8b1bef66eda |
| license | UNKNOWN |
该能力解决 Matmul 单算子生成场景下的问题：tensor_api/Blaze API 约束确认、三模板选型（纯AIC / StreamK / FixpOpti）、统一工程模板复用、SWAT/全载 Tiling 改造、流水与排错。
架构限定：核心验证在
DAV_3510。其他架构必须在 DESIGN.md 中显式说明差异并给出适配方案。
首次使用：
matmul_custom/依赖tensor_api/，首次需拉取外部依赖。步骤见matmul_pattern.md§0.5.0。
满足以下任一条件时使用该能力：
tensor_api、blaze 等信号。不要把该能力当成默认算子开发路径的通用替代品。Vector 类逐元素/归约算子、matmul+eltwise 深度融合（含激活/残差等 Vector 后处理）、matmul+softmax 等不在本 skill 模板直接覆盖范围内；这些场景使用本 skill 的 FixpOpti 模板做 Cube 段，epilogue 部分需自行扩展。
| 模板 | 典型场景 | 交付状态 |
|---|---|---|
| 纯AIC | 通用场景（默认） | 已交付 |
| StreamK | MN 欠并行 + 长 K（≥4096） | 设计文档 |
| FixpOpti | AIC/AIV 流水重叠、可定制 epilogue | 已交付 |
三模板共享同一基底
references/matmul_custom/（common/、tiling/、scheduler/、utils/）。 FixpOpti 专用文件（matmul_fixpopti.cpp、matmul_kernel_fused.h、epilogue/）也在该目录中。
详细对比（执行模式、调度器、同步机制、Workspace、ASCII 数据流图、决策树）见
matmul_pattern.md§10，此处不重复。
阅读顺序：先速览 tensor_api_user_guide.md 了解 API → matmul_pattern.md §10 选模板 → 纯AIC 路径继续 §0 选 mode → §0.5 复制+改造 → 共享基础 §1–§9 + 专属深度文档。
| 阶段/角色 | 主文档 | 辅助 / 深度 |
|---|---|---|
| 方案决策（Architect） | matmul_pattern.md §10 三模板选择 + §0 模式总览 | tensor_api_user_guide.md（API 速查） |
| 设计（Architect） | 选定模板后进入深度文档： - 纯AIC： matmul_basic.md / matmul_full_load.md- StreamK： matmul_streamk.md- FixpOpti： matmul_fixpopti.md | matmul_pattern.md §1–§9 共享基础 |
| 实现（Developer） | 统一从 references/matmul_custom/ 基底出发：纯AIC → matmul_custom.cpp（[MODIFY] N/C/A）FixpOpti → matmul_fixpopti.cpp（[MODIFY] N/C/A/E），按 matmul_fixpopti.md §3 改造 | matmul_fixpopti.md（改造食谱） |
| 审查（Reviewer） | matmul_pattern.md §8 排障速查 | 对应模板深度文档的「常见陷阱」表 |
| 修复调试 | matmul_pattern.md §8（编译期 / 精度 / 跑通自检） | matmul_fixpopti.md §6 陷阱表 |
tensor_api 依赖和 L1/L0 容量差异，可能不兼容。A_FULL_LOAD_MODE 已落地（matmul_block_mmad_a_full_load.h + MatmulTilingAFullLoad，3 行 diff 切换）。B_FULL_LOAD_MODE 仅有设计草案（见 matmul_full_load.md §3.2 / §4.2 / §4.3），仓库中无 B_FULL_LOAD_MODE 常量、MatmulMultiBlockPolicy<B_FULL_LOAD_MODE> 特化、MatmulSwatScheduler<B_FULL_LOAD_MODE> selector、MatmulTilingBFullLoad 类、matmul_block_mmad_b_full_load.h 头文件——使用前必须按对称设计自行镜像补齐，不能套用 matmul_pattern.md §0.5.3 的切换 diff（B 全载段已替换为告警 NOTE）。references/matmul_custom/matmul_custom.cpp 入手，FixpOpti 从 references/matmul_custom/matmul_fixpopti.cpp 入手；两条路径共享 references/matmul_custom/ 下的 common/、tiling/、scheduler/、utils/。均按 [MODIFY] 标记改造。FixpOpti 额外需要：(1) 替换启动器 matmul_custom.cpp→matmul_fixpopti.cpp，(2) BlockMmad 的 CopyL0C2GM 改为 CopyL0C2UB+SPLIT_M Trait（见 matmul_fixpopti.md §3.5），(3) 新增 matmul_kernel_fused.h 和 epilogue 文件。比纯AIC 多一档 [MODIFY] E 用于自定义 Epilogue。AscendC::Te:: 系列接口有大量重载和模板特化。查阅 references/tensor_api_user_guide.md 或官方文档。| CANNBot 阶段 | 调用方 | 加载方式 |
|---|---|---|
| Step 2 设计 | Architect Subagent | 当用户需求路径判定为「tensor_api / CUTLASS 风格 API」时显式加载本 skill |
| Step 3 开发 | Developer Subagent | 按设计选定模板，复用模板工程 |
| Step 4 审查 | Reviewer Subagent | 用 matmul_pattern.md §8 排障速查交叉验证 |
评估 CANN 算子仓的「进阶教程 / 开发指南」类文档质量——通读文档 + 对照算子代码**静态**查证(默认不跑),按五轴(找得到/信得过/学得会/可操作/读得懂)找出 漏讲/讲不清/过时/对不上代码/概念讲错,产出带证据与改进建议的体检报告(MD + HTML)。涉及「评进阶教程 / 开发指南文档质量 / 文档对不对得上代码 / 教程审稿 / tutorial 体检 / 文档信不信得过」等意图时使用。只评不改不跑,只对着文档与代码出诊断。
Run NPU inference/training tests on a remote SSH server with vllm-ascend Docker container. Use when the user asks to test models on NPU, run inference on Ascend devices, or deploy models to an SSH server.
Track daily PRs and Issues from vllm-project/vllm and vllm-project/vllm-ascend, filter by model (DeepSeek/Qwen/GLM/MiniMax/Kimi) and tech topics (PD disaggregation, MTP, quantization, graph mode, performance), analyze with LLM, and generate a Markdown report. Use when user wants vllm daily tracker, PR/Issue digest, or Ascend inference ecosystem monitoring.
Automatically fetch InferenceX benchmark data and generate daily performance reports for LLM inference on various hardware (NVIDIA, AMD, etc.). Supports email delivery, data change detection, and 8k1k sequence length performance analysis. Use when needing to track LLM inference performance trends, compare hardware configurations, or monitor benchmark updates.
通用 PyTorch 项目 Ascend NPU 迁移可行性分析。系统化扫描代码库中的 CUDA/GPU 依赖，按 7 大域分类评估（设备层、注意力机制、自定义算子、分布式通信、精度策略、第三方依赖、编译加速），并基于 Wan2.2 实际迁移经验提供逐项替代方案。适用于评估任何 DiT/Transformer 类模型（视频生成、LLM、多模态等）在昇腾 NPU 上的运行可行性与迁移工作量估算。
End-to-end AscendC custom operator development for Ascend NPU in an ascend-kernel (csrc/ops + build.sh + torch_npu PyTorch custom op) project. Use to design, generate, build, test, document, and tune a new AscendC operator from a name and a math/functional spec. Covers project init, two-level tiling design, op_host/op_kernel code generation, framework registration, compile/install/debug, PyTorch-style API docs, precision evaluation and root-cause debugging, torch_npu.profiler performance benchmarking, performance optimization, and security code review.