職業分類
未分類
説明
Step-by-step tutorial for adding a new lightweight JIT CUDA kernel to sglang's jit_kernel module
原文の言語: 英語
更新
togethercomputer/xorl-sglang
SkillsMP は togethercomputer/xorl-sglang から 8 件の skill を収集しています。skill を開くとソースと詳細を確認できます。
- 記録された最新のソース活動
- SkillsMP カタログ更新
- 収集済み skills
- 8
- GitHub スター
- 3
- GitHub フォーク
- 0
このリポジトリの skills
分類待ち
収集済み skill 8 件中 8 件を表示しています。
skill
職業分類
説明
更新
職業分類
未分類
説明
Add a new model to the SGLang Cookbook (docs/, Mintlify), config-driven format — instantiate the model-agnostic template into a per-model config (+ benchmarks) JSX under src/snippets/configs/, an MDX page, the docs.json nav entry, NEW-tag hygiene, and the…
原文の言語: 英語
更新
職業分類
未分類
説明
Unified LLM torch-profiler triage skill for `sglang`, `vllm`, `TensorRT-LLM`, and `TokenSpeed`. Use it to inspect an existing `trace.json(.gz)` or profile directory, or to drive live profiling against a running server when supported and return one three-table…
原文の言語: 英語
更新
職業分類
未分類
説明
How SGLang's runtime configuration and process-global state are organized (RuntimeContext tiers, publish + namespace config bags, the pristine ServerArgs seed, override entry points, resource/stream/buffer leases, per-forward flags), the CI guardrails that…
原文の言語: 英語
更新
職業分類
未分類
説明
Use when adding a new diffusion model or Diffusers pipeline to SGLang.
原文の言語: 英語
更新
職業分類
未分類
説明
Use when benchmarking denoise latency or profiling a diffusion bottleneck in SGLang.
原文の言語: 英語
更新
職業分類
未分類
説明
Use when quantizing a diffusion DiT with NVIDIA ModelOpt and making the resulting FP8 or NVFP4 checkpoint loadable, verifiable, and benchmarkable in SGLang Diffusion.
原文の言語: 英語
更新
職業分類
未分類
説明
Use when choosing the fastest SGLang Diffusion flags for a model, GPU, and VRAM budget.
原文の言語: 英語
更新
収集済み skill 8 件中 8 件を表示しています。