一键导入
kernel-verifier
算子代码验证 Skill — 静态代码检查 + 精度对比验证。 包含两阶段验证:先做零成本静态检查(语法、编译、import、DSL 合规性), 通过后再对比框架实现与生成实现的输出一致性。 支持多框架(torch / mindspore)、多后端(cuda / ascend / cpu)。
用 Codex 或 Claude 帮你安装 复制这段 Prompt,粘贴到 Codex、Claude 或其他助手里,让它检查 Skill 页面并帮你完成安装。
菜单
算子代码验证 Skill — 静态代码检查 + 精度对比验证。 包含两阶段验证:先做零成本静态检查(语法、编译、import、DSL 合规性), 通过后再对比框架实现与生成实现的输出一致性。 支持多框架(torch / mindspore)、多后端(cuda / ascend / cpu)。
用 Codex 或 Claude 帮你安装 复制这段 Prompt,粘贴到 Codex、Claude 或其他助手里,让它检查 Skill 页面并帮你完成安装。
基于 SOC 职业分类
矩阵乘法矩阵乘法 A[M, K] @ B[K, N] = C[M, N]中,大K维度矩阵乘法(K>>M,N)优化:针对M/N较小但K极大(如M=N=256,K=131072)的场景,Split-K切分K维度并行化、Workspace+Reduce替代全局同步,实现显著性能提升
Triton Ascend hard API restrictions and forbidden syntax. MUST-follow rules that apply to every kernel: forbidden control flow (return/break/continue/lambda/while), tensor slice/index restrictions, scalar conversion rules, BLOCK_SIZE upper bound. Violating any of these produces a compile or runtime error on Ascend.
Triton Ascend 性能优化通用策略: BLOCK_SIZE 选择 (1024-2048 for elementwise, must be <65536), grid configuration (use VEC_CORE_NUM / CUBE_CORE_NUM, 2D/3D grid for matmul / conv / reduce, 1D grid + inner loop for elementwise / pointwise), 256B alignment for memory transfers, autotune block-size patterns, fp16 / fp32 precision conversion. Bind via keywords like matmul, elementwise, reduce, block_size, grid, autotune, alignment, fp16, fp32, tile, interleaved-loop, cube-core, vec-core.
通过 adaptive_search 或 evolve 搜索式 workflow 生成优化算子。 后台 silent mode 执行,轮询监控进度。
适用于归约(reduce)类算子和含归约子步骤的复合算子(如归一化)的优化指南。典型算子包括:sum, mean, max, min, prod, argmax, argmin, cumsum, cumprod, softmax, logsoftmax, layernorm, rmsnorm, groupnorm, instancenorm, batchnorm, l1norm, l2norm, frobeniusnorm, var, std, average_pooling, sum_pooling 等。特别重要:当归约维度不是最后一维(如 dim=1 归约 shape=[B,F,D1,D2]),需要正确处理多维索引和两阶段归约。包含 PyTorch normalized_shape 多轴归一化语义说明。不适用于纯逐元素运算或矩阵乘法。如果算子是损失函数(先逐元素计算再全局归约),应选择 elementwise-reduce-fused 指南。
CPU C++ 算子核心概念、标准结构模式、KernelBench 代码规范和内嵌扩展方法
| name | kernel-verifier |
| description | 算子代码验证 Skill — 静态代码检查 + 精度对比验证。 包含两阶段验证:先做零成本静态检查(语法、编译、import、DSL 合规性), 通过后再对比框架实现与生成实现的输出一致性。 支持多框架(torch / mindspore)、多后端(cuda / ascend / cpu)。 |
| argument-hint | 输入:op-name、dsl、backend、framework、verify-dir、code-file、命令模板。 可选:device-id、timeout。 |
Step 1 静态代码检查 ├─ 失败 → 结束 └─ 成功 → Step 2 创建验证项目 → Step 3 执行精度验证 → Step 4 收集结果
本 skill 加载后,
<base_url>标签提供 skill 目录路径(记为$SD)。所有验证相关脚本路径基于$SD/scripts/
在创建验证项目前,先对生成代码进行静态检查,快速拦截明显错误,避免浪费验证资源。
使用 bash 工具调用本 skill 的 scripts/code_check.py(使用命令模板包裹):
python3 $SD/scripts/code_check.py \
--code_file <生成代码文件路径> \
--backend <backend> \
--dsl <dsl>
| 参数 | 必填 | 说明 |
|---|---|---|
--code_file | 是 | 待检查的代码文件路径 |
--backend | 否 | 后端(cuda / ascend / cpu) |
--dsl | 否 | DSL(如 triton_cuda、triton_ascend,triton 系列会做 DSL 合规性检测) |
检查内容(纯静态分析,不调用 LLM,零额外成本):
| 检查项 | 说明 |
|---|---|
| 语法检查 | ast.parse 检测括号不匹配、缩进错误、关键字拼写等 |
| 编译检查 | py_compile 捕获额外编译问题 |
| import 可用性 | 检测代码中引用的模块是否在当前环境可用 |
| 中文文本混入 | 检测代码 token 中连续 ≥3 汉字(注释和字符串除外) |
| DSL 合规性 | 仅 triton 系列:检测是否定义了 @triton.jit kernel、是否通过 kernel[grid](...) 调用、forward() 是否使用了 torch 高层 API 替代 kernel |
路由决策:
| 结果 | 判断 | 动作 |
|---|---|---|
| 通过 | stdout 包含 "静态检查通过",退出码 0 | 继续 Step 2 |
| 失败 | stdout 输出检查报告,退出码 1 | 不进入 Step 2,将报告作为 verifier_error 反馈给代码生成步骤 |
在验证目录(如 {output-path}/logs/iteration_{n}/verify/)下创建两个文件:
{op_name}_{framework}.py:复制任务文件完整内容(包含 Model, get_inputs, get_init_inputs){op_name}_{dsl}_impl.py:复制生成代码完整内容(包含 ModelNew)必须使用 bash 工具调用本 skill 的 scripts/verify.py(使用命令模板包裹):
python3 $SD/scripts/verify.py \
--op_name <算子名> \
--dsl <dsl> \
--backend <backend> \
--framework <framework> \
--device_id <device_id> \
--verify_dir <验证目录> \
--timeout 300
| 参数 | 必填 | 说明 |
|---|---|---|
--op_name | 是 | 算子名称 |
--dsl | 是 | DSL(如 triton_cuda、triton_ascend) |
--backend | 是 | 后端(cuda / ascend / cpu) |
--framework | 否 | 框架(默认 torch) |
--device_id | 否 | 设备 ID(默认 0,-1 自动选择) |
--verify_dir | 否 | 验证目录(默认当前目录) |
--timeout | 否 | 超时秒数(默认 300) |
⛔ 禁止自己编写测试代码替代此脚本。
| 结果 | 判断 |
|---|---|
| 验证通过 | stdout 包含 "验证成功",退出码 0 |
| 验证失败 | stderr 包含错误信息,退出码非 0 |
| 超时 | stderr 包含 "验证超时",退出码 1 |