Skip to main content

flashinfer-ai/flashinfer-bench

SkillsMP は flashinfer-ai/flashinfer-bench から 9 件の skill を収集しています。skill を開くとソースと詳細を確認できます。

記録された最新のソース活動
SkillsMP カタログ更新
収集済み skills
9
GitHub スター
281
GitHub フォーク
49

このリポジトリの skills

収集済み skill 9 件中 9 件を表示しています。

職業分類
ソフトウェア開発者
説明

Auto-collect workloads from SGLang inference runs using FlashInfer logging API. Dumps tensors, sanitizes them according to kernel definitions, and submits PR to flashinfer-trace workload repo.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Discover candidate LLMs and produce a kernel inventory — required definitions, classified as existing/new and fi_supported/fi_missing — for onboarding. Use as Phase 1 of /onboard-model, or standalone to plan onboarding work.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Generate Definition JSON files for the flashinfer-trace HuggingFace dataset by harvesting them from a short SGLang inference pass (FlashInfer's @flashinfer_api(trace=...) dumper) — or, as a fallback, by manually transcribing the schema from SGLang sources…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

End-to-end pipeline for discovering new LLMs with novel kernels and onboarding them into FlashInfer-Bench. Orchestrates repo updates, model discovery, kernel definition generation, workload collection, and PR submission.

原文の言語: 英語

更新
職業分類
ソフトウェア品質保証アナリスト・テスター
説明

Add pytest tests to validate reference implementations in the flashinfer-trace HuggingFace dataset against FlashInfer or SGLang ground truth. Use when validating kernel definitions, adding tests for new op_types, or verifying reference implementations are…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Clone SGLang, FlashInfer, sgl-cookbook, and flashinfer-trace repositories to tmp/. Use when setting up the project, preparing for kernel extraction, or when the user needs the source repositories.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Open the per-definition pair of PRs that publishes a model onboarding — PR 2 to the HuggingFace flashinfer-trace dataset (definition + reference test + baseline solution + workloads + blobs + eval traces) and PR 1 to flashinfer-bench (docs/model_coverage.mdx…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Track popular/new open-source LLMs and update docs/model_coverage.mdx with their kernel support status. Use when discovering new models to add to the coverage tracker, checking if a specific model is covered, or refreshing model coverage documentation.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Validate the correctness and completeness of a FlashInfer Trace dataset. Use when checking dataset quality, verifying definitions/workloads/solutions/traces, debugging data issues, or preparing a dataset for release.

原文の言語: 英語

更新
収集済み skill 9 件中 9 件を表示しています。