Skip to main content

vllm-project/llm-compressor

SkillsMP 已收集 vllm-project/llm-compressor 中的 3 个 Skill。打开任一 Skill 可查看来源和详情。

最近记录的来源活动
SkillsMP 收录数据更新
已收集 skills
3
GitHub 星标
3,752
GitHub Forks
643

这个仓库中的 skills

1 个职业分类 · 已分类 33%

已展示 3 / 3 个已收集 Skill。

职业分类
未分类
描述

Generate a working FP8 quantization example script and save a compressed-tensors checkpoint. Triggers on: "fp8", "FP8_DYNAMIC", "FP8_BLOCK", "MXFP8", "fp8 example", "quantize to fp8".

原文语言:英语

更新
职业分类
未分类
描述

Generate a working NVFP4 (W4A4) quantization example script and save a compressed-tensors checkpoint. Triggers on: "nvfp4", "NVFP4", "fp4", "nvfp4 example", "quantize to nvfp4", "w4a4".

原文语言:英语

更新
职业分类
软件开发工程师
描述

Create and manage tiny models for testing and development. Includes utilities for saving tiny models, inspecting tensors, and finetuning workflows.

原文语言:英语

更新
已展示 3 / 3 个已收集 Skill。