Abhi
@abhiram_ai_guy
Skill 공개 소식언어 모델 추론 최적화
게시물 요약 · 영어
A skill for tuning self-hosted LLM inference around the model, hardware, API requirements, and serving workload, including parallelism, KV tiers, and prefill/decode separation.
abhiram1809/inference-god-mode
SkillsMP는 abhiram1809/inference-god-mode에서 1개의 skill을 수집했습니다. skill을 열어 소스와 세부 정보를 확인하세요.
- 최근 기록된 소스 활동
- SkillsMP 카탈로그 업데이트
- 수집된 skills
- 1
- GitHub 스타
- 0
- GitHub 포크
- 0
AI 어시스턴트로 설치
이 프롬프트를 복사해 사용 중인 AI 어시스턴트에 입력하세요.
Follow https://skillsmp.com/skill-install/prompt.md to install Agent Skills from https://github.com/abhiram1809/inference-god-mode.게시물
모두 보기 →이 저장소의 skills
분류 대기 중
수집된 skill 1개 중 1개를 표시합니다.
skill
직업 분류
설명
업데이트
직업 분류
미분류
설명
Plan, deploy, benchmark, and tune self-hosted open-weight LLM inference on one machine or Kubernetes GPU clusters, including quantization, full-context capacity, OpenAI or Anthropic APIs, cache-aware routing, and prefill/decode disaggregation.
원문 언어: 영어
업데이트
수집된 skill 1개 중 1개를 표시합니다.