local-ai-stack

name	local-ai-stack
description	Stack AI/ML personnelle Michael Ahern, installée nativement sur le disque (Apple Silicon M3 Max via Homebrew + Launch...

Local AI Stack — Conventions d'appel (Host macOS personnel)

Stack AI/ML personnelle Michael Ahern, installée nativement sur le disque (Apple Silicon M3 Max via Homebrew + LaunchAgents + MLX). Couvre LiteLLM Proxy AI Gateway local (:8092), sidecar vector store pgvector (:8093), aictl + serveurs MLX, omlx FIM coder (:8000), conventions d'appel des modèles, et config Claude Code settings.local.json. Charger quand un projet mentionne "ai-servers", "aictl", "MLX", "LiteLLM Proxy host", "qwen3", "medgemma", "nemotron", "gemma4", "embedding local", "reranker local", "ANTHROPIC_BASE_URL", "apiKeyHelper", "omlx", "Continue VS Code", "PRO-G40", "local servers", "port 8092".

Références

• Périmètre — Deux stacks distincts, NE PAS confondre
• aictl — Référence rapide
• Inventaire des serveurs
• PRO-G40 Disque externe
• omlx — FIM coder local (:8000)
• Continue VS Code — stack 100% local
• Toujours router via le LiteLLM Proxy (host perso uniquement)
• LiteLLM Gateway — état réel
• Modèles et aliases LiteLLM
• Pattern Python recommandé
• Claude Code (harness) — Routage via LiteLLM
• Troubleshooting rapide
• Caveats serveurs MLX — exceptions au routage LiteLLM
• Pattern — Wrapper RAGAs natif pour MLX (sans langchain-openai)
• Smoke tests kg_pipeline.medical (2026-05-11)
• Skills & rules associés
• Anti-patterns à éviter
• Ressources