quark-torch-llm-ptq-eval
End-to-end Torch LLM PTQ recipe for AMD Quark — for PyTorch / HuggingFace transformers models (safetensors input): quantize, then validate, then evaluate accuracy, in one flow. Delegates the PTQ path (intake, planning, manifest, execution) to the quark-torch-ptq workflow, runs mandatory structural validation, and runs opt-in accuracy evaluation (perplexity / lm_eval / vLLM-accelerated). Trigger for "quantize and validate", "quantize and evaluate", "run PTQ end to end with accuracy check", "full PTQ pipeline with validation and eval", or "quantize Llama/Qwen/Mistral with FP8/INT4 and measure accuracy". For PTQ only (stop at the quantized output, no validation/eval) use quark-torch-ptq. Not for .onnx input models — use quark-onnx-ptq instead.
Datos de origen
- Repositorio
- amd/Quark
- Última actividad en el origen
- 9 de julio de 2026 a las 06:10
- Idioma detectado de SKILL.md
- inglés
- Estrellas
- 166
- Forks
- 30
Opciones de instalación
De forma predeterminada está seleccionado el prompt que primero revisa el origen. Puedes cambiar a un comando directo o descargar una copia local.
Revisa los archivos de origen
Lee SKILL.md y los archivos complementarios que muestra SkillsMP antes de decidir si quieres instalarlo.
