메뉴
Kernel直调工程模板，用于创建 Ascend C Kernel 直调工程项目。提供经过验证的 Vector 样例工程（add_custom）和 mxfp8 matmul+eltwise 融合工程，含清晰的修改指南。触发：当用户需要创建 Kernel 直调工程、学习 Ascend C 编程、快速原型验证、或提及"Kernel直调"、"<<<>>>内核调用"、"mxfp8 融合"时使用本 skill。
Codex 또는 Claude로 설치 이 Prompt를 복사해 Codex, Claude 또는 다른 어시스턴트에 붙여 넣으면 Skill 페이지를 검토하고 설치를 진행할 수 있습니다.
SOC 직업 분류 기준
| name | external-cannbot-ops-ascendc-direct-invoke-template |
| description | Kernel直调工程模板，用于创建 Ascend C Kernel 直调工程项目。提供经过验证的 Vector 样例工程（add_custom）和 mxfp8 matmul+eltwise 融合工程，含清晰的修改指南。触发：当用户需要创建 Kernel 直调工程、学习 Ascend C 编程、快速原型验证、或提及"Kernel直调"、"<<<>>>内核调用"、"mxfp8 融合"时使用本 skill。 |
| original-name | ascendc-direct-invoke-template |
| synced-from | https://gitcode.com/cann/cannbot-skills |
| synced-date | 2026-05-26 |
| synced-commit | ac5bbd2b4cf427d011874e11f8d1e8b1bef66eda |
| license | UNKNOWN |
先按算子类型路由到模板，再按 [MODIFY] 注释改造。
| 算子类型 | 入口 | 典型算子 |
|---|---|---|
| Vector（A 分支） | references/add_custom/ | add、mul、relu、softmax、layernorm 等逐元素/归约算子 |
| mxfp8 matmul + eltwise 融合 | references/matmul_fusion_kernel/ + references/matmul_fusion_guide.md | Cube+Vector 融合专用变种；该指南独立自洽，进入后不必再回本页 |
不支持的场景：纯 Matmul/Cube（非融合）、其他 Cube+Vector 混合（如 matmul+softmax）不在此覆盖范围。
# 若算子目录 <your_op> 未创建
cp -r references/add_custom <your_op>
# 若算子目录 <your_op> 已存在
cp -r references/add_custom/* <your_op>
cd <your_op>
add_custom → <your_op>（add_custom 是整体算子名，_kernel/_torch/_tiling 是固定后缀）[MODIFY] 标记改造：
add_custom_tiling.h）add_custom_kernel.asc）CMakeLists.txt 中的目标名# 完整流程（含编译）
bash run.sh
# 仅运行测试，复用已有编译产物
bash run.sh --skip-build
run.sh在运行 kernel 前会自动删除旧的output/output.bin，确保精度验证读取的是本次运行的新鲜输出。
见 references/matmul_fusion_guide.md（独立自洽）：复制 references/matmul_fusion_kernel/ 工程后按指南改 Epilogue。
├── op_kernel/ NPU 计算层
│ ├── add_custom_tiling.h Tiling 常量 + 结构体（kernel 和 host 共用）
│ └── add_custom_kernel.asc 纯 kernel 代码（KernelAdd 类 + add_custom_kernel 核函数入口）
├── op_host/ Host 直调层
│ ├── add_custom.asc Host + main 入口（#include "add_custom_kernel.asc"）
│ └── data_utils.h 数据读写工具
├── op_extension/ PyTorch 接入层
│ ├── add_custom_torch.cpp PyTorch host 实现（Tiling 计算 + kernel launch）
│ ├── register.cpp TORCH_LIBRARY 注册（含 Meta backend）
│ └── ops.h 函数声明
├── scripts/ 测试脚本
│ ├── gen_data.py 生成输入数据
│ ├── golden.py Golden 计算函数（直调 & PyTorch 双通路共用）
│ ├── verify_result.py 直调通路精度验证
│ └── test_torch.py PyTorch 通路测试
├── CMakeLists.txt 双 target：可执行文件 + libadd_custom_ops.so
├── run.sh 一键运行（支持 --torch 跑 PyTorch 通路）
└── README.md
在 add_custom_kernel.asc 和 add_custom.asc 中可直接学习：
TPipe + TQue 管理 UB BufferEnQue/DeQue 确保操作顺序模板已内置 PyTorch 对接，编译后即可使用：
import torch; import torch_npu
torch.ops.load_library("build/libadd_custom_ops.so")
y = torch.ops.npu.add_custom(x1, x2)
| 文件 | 说明 |
|---|---|
references/matmul_fusion_guide.md | mxfp8 matmul + eltwise 融合 Epilogue 规范 |
references/kernel_launch_details.md | 进阶（通用）：内存层次/Double Buffer/同步机制/多 I/O |
npu-arch skilltorch-ascendc-op-extension skill评估 CANN 算子仓的「进阶教程 / 开发指南」类文档质量——通读文档 + 对照算子代码**静态**查证(默认不跑),按五轴(找得到/信得过/学得会/可操作/读得懂)找出 漏讲/讲不清/过时/对不上代码/概念讲错,产出带证据与改进建议的体检报告(MD + HTML)。涉及「评进阶教程 / 开发指南文档质量 / 文档对不对得上代码 / 教程审稿 / tutorial 体检 / 文档信不信得过」等意图时使用。只评不改不跑,只对着文档与代码出诊断。
Run NPU inference/training tests on a remote SSH server with vllm-ascend Docker container. Use when the user asks to test models on NPU, run inference on Ascend devices, or deploy models to an SSH server.
Track daily PRs and Issues from vllm-project/vllm and vllm-project/vllm-ascend, filter by model (DeepSeek/Qwen/GLM/MiniMax/Kimi) and tech topics (PD disaggregation, MTP, quantization, graph mode, performance), analyze with LLM, and generate a Markdown report. Use when user wants vllm daily tracker, PR/Issue digest, or Ascend inference ecosystem monitoring.
Automatically fetch InferenceX benchmark data and generate daily performance reports for LLM inference on various hardware (NVIDIA, AMD, etc.). Supports email delivery, data change detection, and 8k1k sequence length performance analysis. Use when needing to track LLM inference performance trends, compare hardware configurations, or monitor benchmark updates.
通用 PyTorch 项目 Ascend NPU 迁移可行性分析。系统化扫描代码库中的 CUDA/GPU 依赖，按 7 大域分类评估（设备层、注意力机制、自定义算子、分布式通信、精度策略、第三方依赖、编译加速），并基于 Wan2.2 实际迁移经验提供逐项替代方案。适用于评估任何 DiT/Transformer 类模型（视频生成、LLM、多模态等）在昇腾 NPU 上的运行可行性与迁移工作量估算。
End-to-end AscendC custom operator development for Ascend NPU in an ascend-kernel (csrc/ops + build.sh + torch_npu PyTorch custom op) project. Use to design, generate, build, test, document, and tune a new AscendC operator from a name and a math/functional spec. Covers project init, two-level tiling design, op_host/op_kernel code generation, framework registration, compile/install/debug, PyTorch-style API docs, precision evaluation and root-cause debugging, torch_npu.profiler performance benchmarking, performance optimization, and security code review.