research-deepspeed
Expert guidance for distributed training with DeepSpeed - ZeRO optimization stages, pipeline parallelism, FP16/BF16/FP8, 1-bit Adam, sparse attention
معلومات المصدر
- المستودع
- GrayCodeAI/starling
- آخر نشاط في المصدر
- ١٣ يوليو ٢٠٢٦ في ٠٩:٢٨
- لغة SKILL.md المكتشفة
- الإنجليزية
- النجوم
- ٢
- التفرعات
- ٠
خيارات التثبيت
يُحدَّد Prompt الذي يراجع المصدر أولًا بشكل افتراضي. يمكنك التبديل إلى أمر مباشر أو تنزيل نسخة محلية.
مراجعة ملفات المصدر
اقرأ SKILL.md وأي ملفات مرافقة يعرضها SkillsMP قبل أن تقرر التثبيت.
عرض SKILL.md
- name
- research-deepspeed
- description
- Expert guidance for distributed training with DeepSpeed - ZeRO optimization stages, pipeline parallelism, FP16/BF16/FP8, 1-bit Adam, sparse attention
- license
- MIT
- tags
- ["deepspeed","distributed-training","zero","pipeline-parallelism","mixed-precision"]
- version
- 1.0.0
- author
- Orchestra Research
- dependencies
- ["deepspeed","torch","transformers","accelerate"]