Skip to main content

guqiong96/Lvllm

최근 기록된 소스 활동
SkillsMP 카탈로그 업데이트
수집된 skills
2
GitHub 스타
475
GitHub 포크
42

AI 어시스턴트로 설치

이 프롬프트를 복사해 사용 중인 AI 어시스턴트에 입력하세요.

저장소 README를 불러오는 중…

이 저장소의 skills

분류 대기 중

수집된 skill 2개 중 2개를 표시합니다.

직업 분류
미분류
설명

Time a vLLM model's forward pass on exact batch shapes (decode, prefill, chunked prefill, prefix hit, spec-decode verify, or mixes) with `vllm bench forward`, single-GPU or DP/TP/EP across nodes. Use for per-step model latency, layout/parallelism comparisons,…

원문 언어: 영어

업데이트
직업 분류
미분류
설명

Prepare a vLLM change for human PR review or re-review, or analyze an open pull request. Use before opening a PR, drafts included (e.g. `gh pr create`), or pushing review fixes, to check design fit, behavioral coverage, performance evidence, diff quality, and…

원문 언어: 영어

업데이트
수집된 skill 2개 중 2개를 표시합니다.