Chargement du README du dépôt…
A skill for tuning self-hosted LLM inference around the model, hardware, API requirements, and serving workload, including parallelism, KV tiers, and prefill/decode separation.
Affichage de 1 skills collectés sur 1.
Plan, deploy, benchmark, and tune self-hosted open-weight LLM inference on one machine or Kubernetes GPU clusters, including quantization, full-context capacity, OpenAI or Anthropic APIs, cache-aware routing, and prefill/decode disaggregation.
Langue du texte source : anglais
Copiez ce prompt dans l’assistant IA que vous utilisez.
Follow https://skillsmp.com/skill-install/prompt.md to install Agent Skills from https://github.com/abhiram1809/inference-god-mode.Le README n’a pas pu être chargé. Vous pouvez toujours consulter les Skills du dépôt ci-dessous.