From ab63b05b9cf1bb051f5f06a244904ad06acc629e Mon Sep 17 00:00:00 2001 From: Hitonabi Date: Sat, 4 Jul 2026 00:19:10 +0200 Subject: [PATCH] Repo-Schnappschuss: VL-30B ttl 300->0 (Warm-Set-Drift schliessen) Live war VL-30B (Augen) schon auf ttl:0 gesetzt, der Repo-Schnappschuss deploy/llama-swap.config.yaml stand aber noch auf ttl:300 -> bei einer Neu-Provisionierung aus dem Repo waere der Warm-Set-Auskuehl-Bug zurueckgekommen (persistent schuetzt nicht gegen ttl-Selbstentladen). Kommentar auf den Live-Stand (Augen/vision, brains-Mitglied) aktualisiert. Reiner Snapshot-Fix, kein Live-Effekt (Deploy fasst llama-swap-Config nicht an). Co-Authored-By: Claude Opus 4.8 --- deploy/llama-swap.config.yaml | 7 ++++--- 1 file changed, 4 insertions(+), 3 deletions(-) diff --git a/deploy/llama-swap.config.yaml b/deploy/llama-swap.config.yaml index 35ee96c..90a5a6e 100644 --- a/deploy/llama-swap.config.yaml +++ b/deploy/llama-swap.config.yaml @@ -81,11 +81,12 @@ models: tools: true context: 32768 Qwen3-VL-30B-A3B-Instruct: - # vision-Upgrade-Kandidat (Bench 02.07.: tg 90-92 t/s, MoE 3B aktiv, stark auf GUI-Benchmarks). - # Noch OHNE vision-Alias — erst Screenshot-Qualitaets-Check, dann Entscheid (brains-Budget!). + # Lucys AUGEN (vision, seit 03.07. live via set_role/set_group): MoE 3B aktiv, versteht die + # Bildschirm-SZENE statt nur OCR. Als brains-Mitglied MUSS ttl:0 sein — persistent schuetzt nur + # gegen Verdraengung, NICHT gegen ttl-Selbstentladen (sonst faellt es alle 5 Min raus). cmd: | llama-server -m /srv/models/Qwen3-VL-30B-A3B-Instruct-GGUF/Qwen3-VL-30B-A3B-Instruct-Q4_K_M.gguf --host 127.0.0.1 --port ${PORT} -c 32768 -ngl 999 -fa on --no-mmap --mmproj /srv/models/Qwen3-VL-30B-A3B-Instruct-GGUF/mmproj-F16.gguf --jinja - ttl: 300 + ttl: 0 capabilities: in: [text, image] out: [text]