a3m-router

a3m-router contiene 1 skills recopiladas de Das-rebel, con cobertura ocupacional por repositorio y páginas de detalle dentro del sitio.

Perfil de Das-rebel Ver en GitHub

skills recopiladas

Stars

actualizado

2026-05-15

Forks

Cobertura ocupacional

Desarrolladores de software

1 categorías ocupacionales · 100% clasificado

explorador de repositorios

Skills en este repositorio

creador/repositorio/skill

skill

ocupación

descripción

actualizado

tmlpd

Desarrolladores de software

Research-backed Multi-LLM Router with parallel execution, streaming, caching, token compression (ISON), local provider support (Ollama/vLLM/LM Studio), batch processing. Based on arXiv research: RouteLLM routing, RadixAttention prefix caching, Medusa/EAGLE speculative decoding. Python bindings for LangChain/LlamaIndex/AutoGen/CrewAI. 120+ keywords for LLM/ML discoverability. Use for multi-model comparison, cost optimization, batch processing, local privacy, context compression, adaptive routing.

2026-05-15