Beruf
nicht klassifiziert
Beschreibung
Tune easyllama chat-model fit for a chosen mode: gpu layers, KV cache quantization, ctx-size, warmup 502/250 failures, and full-context ceilings.
Quellsprache: Englisch
Aktualisiert
Menü
SkillsMP hat 2 Skills aus loopyd/easyllama gesammelt. Öffne einen Skill, um Quelle und Details zu prüfen.
Es werden 2 von 2 gesammelten Skills angezeigt.
Tune easyllama chat-model fit for a chosen mode: gpu layers, KV cache quantization, ctx-size, warmup 502/250 failures, and full-context ceilings.
Quellsprache: Englisch
Add or refactor an easyllama provider or mode. Use when integrating a new llama.cpp fork/backend, creating or extending launchers in easyllama/servers, wiring Dockerfile targets and config templates, updating README mode docs, rebuilding the mode image,…
Quellsprache: Englisch