Skip to main content

kernel-runtime-analysis

诊断 GPU 算子、融合、编译和运行时提交的性能问题。用于判断重读、重算、启动或同步是否位于请求关键路径。

Informations de source

Dépôt
bojieli/ai-infra-book
Dernière activité de la source
1 octobre 2026 à 08:19
Langue détectée de SKILL.md
chinois
Étoiles
6 578
Forks
506

Options d'installation

Le prompt qui vérifie d'abord la source est sélectionné par défaut. Vous pouvez passer à une commande directe ou télécharger une copie locale.

Vérifiez les fichiers source

Lisez SKILL.md et les fichiers associés affichés par SkillsMP avant de décider de l'installer.

Affichage de SKILL.md

SKILL.md
Instructions source · Aperçu en lecture seule
name
kernel-runtime-analysis
description
诊断 GPU 算子、融合、编译和运行时提交的性能问题。用于判断重读、重算、启动或同步是否位于请求关键路径。
# 算子与运行时分析 适用:有算子 trace、kernel 计时或编译方案,想解释局部优化能否缩短完整请求。依据 `manuscripts/05-算子与运行时.md` 第 5.1—5.6 节。 1. 记录张量形状、精度、布局、tile、寄存器或片上存储占用、有效带宽和 kernel 启动次数;确认优化前后工作量是否相同。 2. 追踪数据被读写和复用的次数。融合/预计算节省的外部访存,要与额外片上空间、占用率下降、重算或准备开销比较。 3. 按依赖检查分块、流水、事件与缓冲区复用;数据未就绪前不可读取,消费者完成前不可释放。 4. 在完整请求 trace 中定位该阶段的关键路径占比,区分可重叠的传输与必须等待的同步。用相同输入和预热条件复测总时间。 输出瓶颈证据、预期节省与实际端到端变化。单个 kernel 加速而任务无明显变化时,先检查是否被其他阶段遮蔽,不直接归因于测量错误。
Voir sur GitHub