research-deepspeed
Expert guidance for distributed training with DeepSpeed - ZeRO optimization stages, pipeline parallelism, FP16/BF16/FP8, 1-bit Adam, sparse attention
Informations de source
- Dépôt
- GrayCodeAI/starling
- Dernière activité de la source
- 13 juillet 2026 à 09:28
- Langue détectée de SKILL.md
- anglais
- Étoiles
- 2
- Forks
- 0
Options d'installation
Le prompt qui vérifie d'abord la source est sélectionné par défaut. Vous pouvez passer à une commande directe ou télécharger une copie locale.
Vérifiez les fichiers source
Lisez SKILL.md et les fichiers associés affichés par SkillsMP avant de décider de l'installer.
Affichage de SKILL.md
- name
- research-deepspeed
- description
- Expert guidance for distributed training with DeepSpeed - ZeRO optimization stages, pipeline parallelism, FP16/BF16/FP8, 1-bit Adam, sparse attention
- license
- MIT
- tags
- ["deepspeed","distributed-training","zero","pipeline-parallelism","mixed-precision"]
- version
- 1.0.0
- author
- Orchestra Research
- dependencies
- ["deepspeed","torch","transformers","accelerate"]