Skip to main content

vllm-project/llm-compressor

SkillsMP は vllm-project/llm-compressor から 3 件の skill を収集しています。skill を開くとソースと詳細を確認できます。

記録された最新のソース活動
SkillsMP カタログ更新
収集済み skills
3
GitHub スター
3,752
GitHub フォーク
643

このリポジトリの skills

1 件の職業カテゴリ · 33% 分類済み

収集済み skill 3 件中 3 件を表示しています。

職業分類
未分類
説明

Generate a working FP8 quantization example script and save a compressed-tensors checkpoint. Triggers on: "fp8", "FP8_DYNAMIC", "FP8_BLOCK", "MXFP8", "fp8 example", "quantize to fp8".

原文の言語: 英語

更新
職業分類
未分類
説明

Generate a working NVFP4 (W4A4) quantization example script and save a compressed-tensors checkpoint. Triggers on: "nvfp4", "NVFP4", "fp4", "nvfp4 example", "quantize to nvfp4", "w4a4".

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Create and manage tiny models for testing and development. Includes utilities for saving tiny models, inspecting tensors, and finetuning workflows.

原文の言語: 英語

更新
収集済み skill 3 件中 3 件を表示しています。