distributed-training

Multi-GPU and distributed training patterns with PyTorch DDP. Use when scaling training across GPUs.

Repository: aiming-lab/AutoResearchClaw
Letzte Quellaktivität: 23. März 2026 um 01:46
Erkannte Sprache von SKILL.md: Englisch
Sterne: 13.974
Forks: 1.633

Installationsoptionen

Standardmäßig ist der Prompt ausgewählt, der zuerst die Quelle prüft. Sie können zu einem direkten Befehl wechseln oder eine lokale Kopie herunterladen.

Mit Codex oder Claude installieren Kopieren Sie diesen Prompt, fügen Sie ihn in Codex, Claude oder einen anderen Assistant ein und lassen Sie die Skill-Seite prüfen und installieren.

Ein direkter Befehl überspringt den Prüf-Prompt. Prüfen Sie die Quelle, bevor Sie ihn ausführen.

npx skills add https://github.com/aiming-lab/AutoResearchClaw --skill distributed-training

Der Befehl bleibt in einer Zeile. Scrollen Sie horizontal, um ihn vor dem Kopieren vollständig zu prüfen.

Sie bevorzugen eine lokale Kopie? Laden Sie die Dateien herunter, die SkillsMP derzeit vorliegen.

Quelldateien prüfen

Lesen Sie SKILL.md und alle von SkillsMP angezeigten Begleitdateien, bevor Sie sich für eine Installation entscheiden.

SKILL.md

Quellanweisungen · Schreibgeschützte Vorschau

name	distributed-training
description	Multi-GPU and distributed training patterns with PyTorch DDP. Use when scaling training across GPUs.
metadata	{"category":"tooling","trigger-keywords":"distributed,multi-gpu,parallel,ddp,scale","applicable-stages":"10,12","priority":"7","version":"1.0","author":"researchclaw","references":"PyTorch DDP Tutorial, pytorch.org; Goyal et al., Accurate Large Minibatch SGD, 2017"}

Distributed Training Best Practice

Use DistributedDataParallel (DDP) over DataParallel for multi-GPU
Initialize process group: dist.init_process_group(backend='nccl')
Use DistributedSampler for data sharding
Synchronize batch norm: nn.SyncBatchNorm.convert_sync_batchnorm()
Only save checkpoint on rank 0
Scale learning rate linearly with world size
Use gradient accumulation for effectively larger batch sizes

Zurück zur Suche Zurück zur Installation

fba-simulator

Run Flux Balance Analysis (FBA) and related constraint-based simulations using COBRApy. Covers standard FBA, parsimonious FBA (pFBA), Flux Variability Analysis (FVA), loopless FBA, gene/reaction knockouts, and carbon source swapping. Outputs flux distributions and CSV files.

2026-05-20

flux-analyzer

Analyse FBA flux distributions to extract biological insights. Covers gene essentiality, phenotypic phase planes, flux sampling, pathway-level aggregation, secretion product prediction, and production of publication- quality figures.

2026-05-20

gsmm-builder

Build or load a genome-scale metabolic model (GSMM) using COBRApy. Covers loading from BIGG, constructing minimal models from scratch, setting medium constraints, and exporting validated .json model files.

2026-05-20

Alle aus diesem Repository ansehen

name	distributed-training
description	Multi-GPU and distributed training patterns with PyTorch DDP. Use when scaling training across GPUs.
metadata	{"category":"tooling","trigger-keywords":"distributed,multi-gpu,parallel,ddp,scale","applicable-stages":"10,12","priority":"7","version":"1.0","author":"researchclaw","references":"PyTorch DDP Tutorial, pytorch.org; Goyal et al., Accurate Large Minibatch SGD, 2017"}

Distributed Training Best Practice

Use DistributedDataParallel (DDP) over DataParallel for multi-GPU
Initialize process group: dist.init_process_group(backend='nccl')
Use DistributedSampler for data sharding
Synchronize batch norm: nn.SyncBatchNorm.convert_sync_batchnorm()
Only save checkpoint on rank 0
Scale learning rate linearly with world size
Use gradient accumulation for effectively larger batch sizes

distributed-training

Quellinformationen

Installationsoptionen

Quelldateien prüfen

Distributed Training Best Practice

Mehr aus diesem Repository

Mehr aus diesem Repository

Distributed Training Best Practice