القائمة
جمع SkillsMP عدد ١ من skills من abhiram1809/inference-god-mode. افتح أي skill لمراجعة مصدره وتفاصيله.
انسخ هذا الطلب إلى المساعد الذكي الذي تستخدمه.
Follow https://skillsmp.com/skill-install/prompt.md to install Agent Skills from https://github.com/abhiram1809/inference-god-mode.
A skill for tuning self-hosted LLM inference around the model, hardware, API requirements, and serving workload, including parallelism, KV tiers, and prefill/decode separation.
عرض ١ من أصل ١ skills مجمعة.
Plan, deploy, benchmark, and tune self-hosted open-weight LLM inference on one machine or Kubernetes GPU clusters, including quantization, full-context capacity, OpenAI or Anthropic APIs, cache-aware routing, and prefill/decode disaggregation.
لغة النص الأصلي: الإنجليزية