refactor: Stack-Audit, Doku-Bereinigung und Governor-Cleanup (Stand 19.08.2026)

2026-08-19 17:05:45 +02:00
parent 4b6c6ebfd5
commit 5b0909089f
144 changed files with 880 additions and 136 deletions
@@ -23,7 +23,9 @@ models:
      context: 65536
  Qwen3.8-27B:
    # Qwen 3.8 27B: Dichtes 27B-Modell mit hybrider Linear-Attention (48/64 Schichten linear),
-    # nativem Multimodal-Support (mmproj-BF16), Tool-Calling via --jinja.
+    # nativem Multimodal-Support (mmproj-BF16) und Tool-Calling via --jinja.
+    # DFlash-2 Drafter (/srv/models/Qwen3.8-27B-DFlash2-GGUF/Qwen3.8-27B-DFlash2-Q8_0.gguf)
+    # liegt bereit und wird aktiviert, sobald upstream llama.cpp 81-Tensor-DFlash2 freigibt.
    cmd: |
      llama-server -m /srv/models/Qwen3.8-27B-GGUF/Qwen3.8-27B-Q4_K_M.gguf --host 127.0.0.1 --port ${PORT} -c 131072 -ngl 999 -fa on --no-mmap --mmproj /srv/models/Qwen3.8-27B-GGUF/mmproj-BF16.gguf --jinja --parallel 2 -cram 16384 -ctk q8_0 -ctv q8_0
    ttl: 300