llm-caching
Implement multi-layer LLM caching with exact match, semantic similarity, and provider-side prompt caching. Reduce API costs by 30–70%, cut latency, and improve throughput using Redis, GPTCache, and provider caching APIs.
Datos de origen
- Repositorio
- BagelHole/DevOps-Security-Agent-Skills
- Última actividad en el origen
- 22 de mayo de 2026 a las 13:02
- Idioma detectado de SKILL.md
- inglés
- Estrellas
- 1200
- Forks
- 175
Opciones de instalación
De forma predeterminada está seleccionado el prompt que primero revisa el origen. Puedes cambiar a un comando directo o descargar una copia local.
Revisa los archivos de origen
Lee SKILL.md y los archivos complementarios que muestra SkillsMP antes de decidir si quieres instalarlo.
Mostrando SKILL.md
| name | llm-caching |
|---|---|
| description | Implement multi-layer LLM caching with exact match, semantic similarity, and provider-side prompt caching. Reduce API costs by 30–70%, cut latency, and improve throughput using Redis, GPTCache, and provider caching APIs. |