LMCache/LMCache

hybrid-benchmarking

Benchmark a hybrid-attention model across the LMCache performance ladder (vLLM no-hybrid-allocator → hybrid allocator + prefix caching → hybrid allocator + LMCache) and produce a decode-throughput / TTFT / cache-hit-rate comparison. Use when asked to…

لغة النص الأصلي: الإنجليزية

pr-review

Review a GitHub pull request against the LMCache coding standards

لغة النص الأصلي: الإنجليزية

create-pr

Create a GitHub pull request from the current branch to the upstream repo, using the repo's PR template

لغة النص الأصلي: الإنجليزية

pre-pr-check

Check local changes against the LMCache coding standards and fix issues before creating a PR

لغة النص الأصلي: الإنجليزية