sss-hust/awesome-kernel-skills-cn

cross-entropy-kernel

优化面向 NVIDIA 和 AMD GPU 的 Triton 融合交叉熵损失 kernel。 覆盖融合 log-softmax + NLL、在线 log-sum-exp，以及大词表处理方式。 适用于编写或优化交叉熵、带 label smoothing 的交叉熵，或类似的损失函数 kernel。

لغة النص الأصلي: الصينية

flash-attention-kernel

优化面向 NVIDIA 和 AMD GPU 的 Triton FlashAttention 风格融合注意力 kernel。 覆盖在线 softmax、分块 QK/AV GEMM、因果掩码，以及内存高效注意力实现。 适用于编写或优化 self-attention、cross-attention，或任意基于 QKV 的注意力 kernel。

لغة النص الأصلي: الصينية

fused-moe-kernel

优化面向 NVIDIA 和 AMD GPU 的 Triton 融合 Mixture-of-Experts（MoE）kernel。 覆盖 token-expert 路由、grouped GEMM、cache 感知调度，以及 top-k gating 融合。 适用于编写或优化 MoE 层、专家路由，或 grouped matrix multiplication。

لغة النص الأصلي: الصينية

gemm-kernel-optimization

优化面向 NVIDIA 和 AMD GPU 的 Triton 稠密矩阵乘（GEMM）kernel。 覆盖分块 blocking、L2 cache grouping、tensor core 利用，以及双平台 autotune。 适用于编写或优化 matmul、线性层，以及任何基于 GEMM 的 kernel。

لغة النص الأصلي: الصينية

rmsnorm-kernel-optimization

优化面向 NVIDIA 和 AMD GPU 的 Triton RMSNorm kernel。 覆盖按行归约、向量化加载、warp shuffle 模式，以及 rsqrt 的使用。 适用于编写或优化 RMSNorm、LayerNorm，以及类似的归一化 kernel。

لغة النص الأصلي: الصينية

rotary-embedding-kernel

优化面向 NVIDIA 和 AMD GPU 的 Triton Rotary Position Embedding（RoPE）kernel。 覆盖交错式与顺序式布局、sincos 预计算，以及多行处理。 适用于编写或优化 RoPE、位置编码，或各类 rotary 变换。

لغة النص الأصلي: الصينية

softmax-kernel-optimization

优化面向 NVIDIA 和 AMD GPU 的 Triton 融合 softmax kernel。 覆盖在线 max/sum 归约、多行处理、数值稳定性，以及 warp 级模式。 适用于编写或优化 softmax、log-softmax，以及类似的按行归一化 kernel。

لغة النص الأصلي: الصينية

gpu-opt-tier1-block-tiling

为 GPU kernel（Triton/CUDA/HIP）选择 block 或 tile 尺寸、warp 数、pipeline stage， 以及面向 L2 的 block 分组策略。 适用于 autotune matmul 类 kernel、调 occupancy，或让 tile 几何与 M/N/K 规模及 NVIDIA/AMD 线程模型对齐。

لغة النص الأصلي: الصينية

gpu-opt-tier2-memory-hierarchy

优化 GPU kernel 的 global memory、shared/LDS 和 cache 行为， 包括 coalescing、流水化、bank conflict、向量化加载，以及寄存器与 shared memory 的权衡。 适用于 profiling 发现内存吞吐低、cache 效率差时。

لغة النص الأصلي: الصينية

gpu-opt-tier3-compute-fusion

聚焦 inner-loop 数学路径、混合精度、融合 epilogue 和 fast-math intrinsic。 适用于 compute-bound kernel，或 matmul 核心周围被 elementwise 操作主导的场景。

لغة النص الأصلي: الصينية

gpu-opt-tier4-advanced-scheduling

介绍 Split-K、persistent kernel、Stream-K/Stream-K++、 warp specialization，以及多 GPU 融合调度。 适用于普通 tiling 之后仍有尾部空闲、负载不均或 launch overhead 过高的场景。

لغة النص الأصلي: الصينية

gpu-opt-tier5-amd-rocm

AMD ROCm/CDNA3 调优要点：MI300X 拓扑、wavefront-64、MFMA、 LDS/L2、HIP/Triton 限制，以及 rocprof 计数器。 适用于针对 gfx942/MI300 级 GPU 做优化，或和 NVIDIA 基线进行对比时。

لغة النص الأصلي: الصينية

gpu-opt-tier5-nvidia-arch

面向 Hopper SM90、Ampere SM80 和 Ada SM89 的 NVIDIA 架构特定能力与调优要点。 适用于针对已知 compute capability 进行优化，或按具体芯片解读 NCU 指标时。

لغة النص الأصلي: الصينية

kernel-benchmark

统一的 kernel 基准测试协议，输出包含 latency、TFLOPS、GBps， 以及与 PyTorch 基线对比的 JSON 结果。 覆盖预热、计时和跨平台报告流程。 适用于 kernel 基准测试、性能测量和实现对比。

لغة النص الأصلي: الصينية

gpu-kernel-bottleneck-diagnosis

根据 profiling 指标对 GPU kernel 的瓶颈进行分类（memory、compute、latency）， 并应用 GEAK 风格的 workload guidance。 适用于运行 NCU/rocprof 之后，或在 fusion、tiling、scheduling 之间做选择时。

لغة النص الأصلي: الصينية

iterative-kernel-optimization-loop

通过把 profiling、瓶颈诊断、分层优化、验证和基准测试串成迭代闭环， 编排持续性的 kernel 优化。 这是驱动其他技能的“主程序”。 适用于需要把一个 kernel 反复优化到达到目标性能的场景。

لغة النص الأصلي: الصينية

kernel-profiling

使用 NCU（NVIDIA）或 rocprof（AMD）分析 GPU kernel 并收集性能指标。 输出结构化的 `metrics.json`，包含吞吐、带宽、occupancy 和瓶颈分类。 适用于分析 kernel、采集 NCU/rocprof 数据，或诊断性能问题。

لغة النص الأصلي: الصينية

kernel-verification

面向 Triton 和 CUDA kernel 的五阶段正确性验证协议。 覆盖数值正确性、dtype 敏感性、边界情况、确定性和压力测试。 适用于验证 kernel 正确性、运行校验，或搭建测试框架。

لغة النص الأصلي: الصينية