优化面向 NVIDIA 和 AMD GPU 的 Triton 融合交叉熵损失 kernel。 覆盖融合 log-softmax + NLL、在线 log-sum-exp,以及大词表处理方式。 适用于编写或优化交叉熵、带 label smoothing 的交叉熵,或类似的损失函数 kernel。
Idioma del texto original: chino
Cargando el README del repositorio…
Mostrando 18 de 18 skills recopiladas.
优化面向 NVIDIA 和 AMD GPU 的 Triton 融合交叉熵损失 kernel。 覆盖融合 log-softmax + NLL、在线 log-sum-exp,以及大词表处理方式。 适用于编写或优化交叉熵、带 label smoothing 的交叉熵,或类似的损失函数 kernel。
Idioma del texto original: chino
优化面向 NVIDIA 和 AMD GPU 的 Triton FlashAttention 风格融合注意力 kernel。 覆盖在线 softmax、分块 QK/AV GEMM、因果掩码,以及内存高效注意力实现。 适用于编写或优化 self-attention、cross-attention,或任意基于 QKV 的注意力 kernel。
Idioma del texto original: chino
优化面向 NVIDIA 和 AMD GPU 的 Triton 融合 Mixture-of-Experts(MoE)kernel。 覆盖 token-expert 路由、grouped GEMM、cache 感知调度,以及 top-k gating 融合。 适用于编写或优化 MoE 层、专家路由,或 grouped matrix multiplication。
Idioma del texto original: chino
优化面向 NVIDIA 和 AMD GPU 的 Triton 稠密矩阵乘(GEMM)kernel。 覆盖分块 blocking、L2 cache grouping、tensor core 利用,以及双平台 autotune。 适用于编写或优化 matmul、线性层,以及任何基于 GEMM 的 kernel。
Idioma del texto original: chino
优化面向 NVIDIA 和 AMD GPU 的 Triton RMSNorm kernel。 覆盖按行归约、向量化加载、warp shuffle 模式,以及 rsqrt 的使用。 适用于编写或优化 RMSNorm、LayerNorm,以及类似的归一化 kernel。
Idioma del texto original: chino
优化面向 NVIDIA 和 AMD GPU 的 Triton Rotary Position Embedding(RoPE)kernel。 覆盖交错式与顺序式布局、sincos 预计算,以及多行处理。 适用于编写或优化 RoPE、位置编码,或各类 rotary 变换。
Idioma del texto original: chino
优化面向 NVIDIA 和 AMD GPU 的 Triton 融合 softmax kernel。 覆盖在线 max/sum 归约、多行处理、数值稳定性,以及 warp 级模式。 适用于编写或优化 softmax、log-softmax,以及类似的按行归一化 kernel。
Idioma del texto original: chino
为 GPU kernel(Triton/CUDA/HIP)选择 block 或 tile 尺寸、warp 数、pipeline stage, 以及面向 L2 的 block 分组策略。 适用于 autotune matmul 类 kernel、调 occupancy,或让 tile 几何与 M/N/K 规模及 NVIDIA/AMD 线程模型对齐。
Idioma del texto original: chino
优化 GPU kernel 的 global memory、shared/LDS 和 cache 行为, 包括 coalescing、流水化、bank conflict、向量化加载,以及寄存器与 shared memory 的权衡。 适用于 profiling 发现内存吞吐低、cache 效率差时。
Idioma del texto original: chino
聚焦 inner-loop 数学路径、混合精度、融合 epilogue 和 fast-math intrinsic。 适用于 compute-bound kernel,或 matmul 核心周围被 elementwise 操作主导的场景。
Idioma del texto original: chino
介绍 Split-K、persistent kernel、Stream-K/Stream-K++、 warp specialization,以及多 GPU 融合调度。 适用于普通 tiling 之后仍有尾部空闲、负载不均或 launch overhead 过高的场景。
Idioma del texto original: chino
AMD ROCm/CDNA3 调优要点:MI300X 拓扑、wavefront-64、MFMA、 LDS/L2、HIP/Triton 限制,以及 rocprof 计数器。 适用于针对 gfx942/MI300 级 GPU 做优化,或和 NVIDIA 基线进行对比时。
Idioma del texto original: chino
面向 Hopper SM90、Ampere SM80 和 Ada SM89 的 NVIDIA 架构特定能力与调优要点。 适用于针对已知 compute capability 进行优化,或按具体芯片解读 NCU 指标时。
Idioma del texto original: chino
统一的 kernel 基准测试协议,输出包含 latency、TFLOPS、GBps, 以及与 PyTorch 基线对比的 JSON 结果。 覆盖预热、计时和跨平台报告流程。 适用于 kernel 基准测试、性能测量和实现对比。
Idioma del texto original: chino
根据 profiling 指标对 GPU kernel 的瓶颈进行分类(memory、compute、latency), 并应用 GEAK 风格的 workload guidance。 适用于运行 NCU/rocprof 之后,或在 fusion、tiling、scheduling 之间做选择时。
Idioma del texto original: chino
通过把 profiling、瓶颈诊断、分层优化、验证和基准测试串成迭代闭环, 编排持续性的 kernel 优化。 这是驱动其他技能的“主程序”。 适用于需要把一个 kernel 反复优化到达到目标性能的场景。
Idioma del texto original: chino
使用 NCU(NVIDIA)或 rocprof(AMD)分析 GPU kernel 并收集性能指标。 输出结构化的 `metrics.json`,包含吞吐、带宽、occupancy 和瓶颈分类。 适用于分析 kernel、采集 NCU/rocprof 数据,或诊断性能问题。
Idioma del texto original: chino
面向 Triton 和 CUDA kernel 的五阶段正确性验证协议。 覆盖数值正确性、dtype 敏感性、边界情况、确定性和压力测试。 适用于验证 kernel 正确性、运行校验,或搭建测试框架。
Idioma del texto original: chino
Copia este prompt en el asistente de IA que estés usando.
Follow https://skillsmp.com/skill-install/prompt.md to install Agent Skills from https://github.com/sss-hust/awesome-kernel-skills-cn.No se ha podido cargar el README. Puedes seguir explorando los Skills del repositorio a continuación.