Skip to main content

guoqingbao/xinfer

SkillsMP は guoqingbao/xinfer から 3 件の skill を収集しています。skill を開くとソースと詳細を確認できます。

記録された最新のソース活動
SkillsMP カタログ更新
収集済み skills
3
GitHub スター
309
GitHub フォーク
43

このリポジトリの skills

1 件の職業カテゴリ · 100% 分類済み

収集済み skill 3 件中 3 件を表示しています。

職業分類
ソフトウェア開発者
説明

Adapt and port new LLM model architectures to this xinfer project. Use when the user asks to add, port, support, or adapt a new model (e.g. Llama, Gemma, Qwen, GPT-OSS, DeepSeek, or any HuggingFace architecture) including safetensors and GGUF formats, Dense…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Check model compatibility with xinfer before loading. Validates config.json, weight tensor shapes and naming, quantization format correctness, and multi-rank (tensor-parallel) divisibility. Use when the user asks to check, validate, audit, or verify a model…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Test LLM models served by xinfer for correctness, output quality, and performance. Use when the user asks to test, benchmark, validate, or verify models — either from a local folder path or HuggingFace model IDs. Supports all xinfer-compatible formats: BF16,…

原文の言語: 英語

更新
収集済み skill 3 件中 3 件を表示しています。