Skip to main content

quark-torch-ptq

Torch LLM PTQ workflow for AMD Quark — for PyTorch / HuggingFace transformers models (safetensors input). Use when the user wants a complete PTQ pipeline: model inspection, quantization planning, script generation, and optional execution. Stops at the quantized output. Trigger for "quantize my model", "run PTQ", "run model quantization", "full quantization pipeline", "quantize Llama/Qwen/Mistral with FP8/INT4", or any request that spans more than one PTQ step. For a run that also validates and evaluates accuracy use quark-torch-llm-ptq-eval. Not for .onnx input models — use quark-onnx-ptq instead.

Aller à l'installation

Informations de source

Dépôt
amd/Quark
Dernière activité de la source
9 juillet 2026 à 06:10
Langue détectée de SKILL.md
anglais
Étoiles
166
Forks
30

Options d'installation

Le prompt qui vérifie d'abord la source est sélectionné par défaut. Vous pouvez passer à une commande directe ou télécharger une copie locale.

Vérifiez les fichiers source

Lisez SKILL.md et les fichiers associés affichés par SkillsMP avant de décider de l'installer.