forward-kernel-validation
Validate optimized Recirculation forward kernels against an unfused, unbatched oracle when changing batching, fusion, attention, CUDA graphs, or accelerator inference code.
ソース情報
- リポジトリ
- ModelCloud/Recirculation
- ソースの最終更新活動
- 2026年8月22日 12:54
- 検出された SKILL.md の言語
- 英語
- スター
- 9
- フォーク
- 4
インストール方法
デフォルトでは、最初にソースを確認する Prompt が選択されています。直接コマンドに切り替えるか、ローカルコピーをダウンロードすることもできます。
ソースファイルを確認
インストールを決める前に、SKILL.md と SkillsMP に表示されている付属ファイルをお読みください。
SKILL.md を表示中
SKILL.md
ソースの指示 · 読み取り専用プレビュー- name
- forward-kernel-validation
- description
- Validate optimized Recirculation forward kernels against an unfused, unbatched oracle when changing batching, fusion, attention, CUDA graphs, or accelerator inference code.
# Forward kernel validation
Compare optimized forward outputs with the unfused, unbatched implementation using identical weights, dtype, tokens,
positions, masks, cache state, and Recirculation configuration.
Use mean absolute forward error as the release gate:
- Fused or batched kernels: mean absolute error must be at most `4e-3`.
- Kernels that are both non-fused and non-batched: mean absolute error must be at most `2e-3`.
A path qualifies for the `4e-3` limit if it uses fusion, batching, or both. Record max absolute error, relative L2, and
normalized max for diagnostics, but do not use those metrics to accept or reject the kernel. A stricter explicitly
requested gate may still be used.
Benchmark accuracy, task scores, and greedy-token agreement are outcome diagnostics, not substitutes for the forward
gate. Do not reject an otherwise passing optimization solely because a benchmark score or greedy output changes;
report those changes separately. Save the selected gate, kernel classification, oracle configuration, and all error
metrics with benchmark artifacts.
GitHubで見る