mission-control-v2/deploy/llama-swap.config.yaml

# Auto-generiert von provision.sh - per Mission Control erweiterbar
healthCheckTimeout: 300
globalTTL: 0

models:
  Qwen3.6-35B-A3B:
    # parallel 2 + c 131072: 2 Slots à 65k (Slot 2 = Nebenlast/Hintergrund-Extraktion, blockiert Voice-Turns
    # nicht mehr); KV Q8_0 macht das speicherneutral zu vorher (65k f16). Bench 2026-07-02:
    # Q8_0 kostet 0 t/s, MTP n-max 3 = +26% vs. ohne Spec. (Q4_K-KV stand mal im Template,
    # lief aber NIE live — bewusst bei Q8_0 geblieben: Qualität vor ein paar GB, seit der
    # Warm-Set-Diät 07.07. ist RAM nicht mehr der Engpass.)
    cmd: |
      llama-server -m /srv/models/Qwen3.6-35B-A3B-MTP-GGUF/Qwen3.6-35B-A3B-UD-Q4_K_M.gguf --host 127.0.0.1 --port ${PORT} -c 131072 -ngl 999 -fa on --no-mmap --jinja --parallel 2 -cram 16384 -ctk q8_0 -ctv q8_0 --spec-type draft-dflash --spec-draft-model /srv/models/Qwen3.6-35B-A3B-DFlash-GGUF/giocom-Qwen3.6-35B-A3B-DFlash-Q8_0.gguf
    ttl: 0
    aliases:
    - hermes
    - fast
    # context = nutzbarer Kontext PRO REQUEST (c geteilt durch parallel-Slots).
    capabilities:
      in: [text]
      out: [text]
      tools: true
      context: 65536
  Qwen3.8-27B:
    # Qwen 3.8 27B: Dichtes 27B-Modell mit hybrider Linear-Attention (48/64 Schichten linear),
    # nativem Multimodal-Support (mmproj-BF16) und Tool-Calling via --jinja.
    # Unser neuer Haupt-Coder mit 262k Kontext, Thinking Mode und extrem sauberer Code-Qualität.
    # DFlash2-Draft (z-lab, Q4_K_M) seit 04.09.2026: gemessen 12,6 -> 31 t/s (Akzeptanz 0,78, n-max 3 default;
    # n-max 5 und f16-KV bringen nichts, Q4-Draft = Q8-Draft). Braucht llama.cpp >= 28.08. (PR 27342 + Vulkan-Fix 27812).
    cmd: |
      llama-server -m /srv/models/Qwen3.8-27B-GGUF/Qwen3.8-27B-Q4_K_M.gguf --host 127.0.0.1 --port ${PORT} -c 131072 -ngl 999 -fa on --no-mmap --mmproj /srv/models/Qwen3.8-27B-GGUF/mmproj-BF16.gguf --jinja --parallel 1 -cram 16384 -ctk q8_0 -ctv q8_0 --spec-type draft-dflash --spec-draft-model /srv/models/Qwen3.8-27B-DFlash2-GGUF/Qwen3.8-27B-DFlash2-Q4_K_M.gguf
    ttl: 5400
    aliases:
    - coder
    - heavy
    capabilities:
      in: [text, image]
      out: [text]
      tools: true
      # --parallel 1 = der Coder bekommt den ganzen Slot (34a9862, am laufenden Prozess
      # gegengeprueft). Er hat nur einen Verbraucher; Lucy/explore nutzen hermes, review heavy.
      context: 131072
  Muse-Glimmer-30B:
    # Meta Muse Glimmer 30B: Dichtes 30B-Agenten-Modell mit DFlash-Speculative-Drafting
    # und 1.8B Perception Multimodal Projector. Ideal als Runtime-Debugger & Fehler-Diagnostiker.
    cmd: |
      llama-server -m /srv/models/Muse-Glimmer-30B-GGUF/Muse-Glimmer-30B-UD-Q4_K_XL.gguf --host 127.0.0.1 --port ${PORT} -c 65536 -ngl 999 -fa on --no-mmap --mmproj /srv/models/Muse-Glimmer-30B-GGUF/mmproj-kquant.gguf --jinja --spec-type draft-dflash --spec-draft-model /srv/models/Muse-Glimmer-30B-GGUF/dflash-kquant.gguf
    ttl: 600
    aliases:
    - debugger
    capabilities:
      in: [text, image]
      out: [text]
      tools: true
      context: 65536
  Qwen3-Embedding-0.6B:
    cmd: |
      llama-server -m /srv/models/Qwen3-Embedding-0.6B-GGUF/Qwen3-Embedding-0.6B-Q8_0.gguf --host 127.0.0.1 --port ${PORT} --embedding --pooling last -ngl 999 -fa on --no-mmap -c 8192
    ttl: 0
    aliases:
    - embed
  gpt-oss-120b:
    # heavy (B5-Entscheid 03.07.) + nächtlicher CHEF-GUTACHTER (04:30-Cron). 60 GB —
    # passt seit der Warm-Set-Diät (07.07., vision on-demand) wieder NEBEN Hirn+embed.
    cmd: |
      llama-server -m /srv/models/gpt-oss-120b-GGUF/gpt-oss-120b-mxfp4-00001-of-00003.gguf --host 127.0.0.1 --port ${PORT} -c 32768 -ngl 999 -fa on --no-mmap --jinja --cache-reuse 256 -cram 16384
    ttl: 600
    # 04.09.2026: Rolle `heavy` an Qwen3.8-27B abgegeben (AA-Index 52 vs 24, 17 statt 60 GB, 31 t/s mit DFlash2).
    # Ohne Alias = Rollback-Reserve, direkt als `gpt-oss-120b` ansprechbar.
    capabilities:
      in: [text]
      out: [text]
      tools: true
      context: 32768
  Qwen3-VL-30B-A3B-Instruct:
    cmd: |
      llama-server -m /srv/models/Qwen3-VL-30B-A3B-Instruct-GGUF/Qwen3-VL-30B-A3B-Instruct-Q4_K_M.gguf --host 127.0.0.1 --port ${PORT} -c 32768 -ngl 999 -fa on --no-mmap --mmproj /srv/models/Qwen3-VL-30B-A3B-Instruct-GGUF/mmproj-F16.gguf --jinja
    ttl: 900
    aliases:
    - vision
    capabilities:
      in: [text, image]
      out: [text]
      context: 32768
  Qwen3-Reranker-0.6B:
    # Gedächtnis-Zweitstufe (07.07., Rollen-Audit): ordnet Gedächtnis-Suchtreffer nach echter
    # Relevanz (/v1/rerank, Mungert-GGUF — Community-Konvertierungen liefern oft Nullscores!).
    # Winzig (~0,7 GB) → in brains (verdrängungssicher); lädt in ~1-2 s, erste Anfrage wärmt.
    cmd: |
      llama-server -m /srv/models/Qwen3-Reranker-0.6B-GGUF/Qwen3-Reranker-0.6B-q8_0.gguf --host 127.0.0.1 --port ${PORT} --reranking --pooling rank --embedding -ngl 999 -fa on --no-mmap -c 8192
    ttl: 0
    aliases:
    - reranker
groups:
  brains:
    swap: false
    # llama-swap versteht NUR `persistent` (Verdrängungsschutz); `persist` ist der
    # MC2-interne Lese-Key (API/UI) und wird von llama-swap ignoriert. Beide pflegen!
    persist: true
    persistent: true
    members:
    - Qwen3-Embedding-0.6B
    - Qwen3-Reranker-0.6B
    - Qwen3.6-35B-A3B