bilder: Hirn und Coder sehen selbst - ueber Bild-Zwillinge, Text bleibt mit Draft schnell

llama.cpp kann Draft-Beschleunigung und Bilder nicht zusammen (HTTP 500 "failed to process
speculative batch", b11057 und b11157 geprueft; speculative.n_max=0 je Anfrage hilft nicht).
Darum bekommen Hirn und Coder je einen Bild-Zwilling: gleiche Gewichte plus Projektor, ohne
Draft (vision, coder-bild), in einer eigenen llama-swap-Gruppe, die den Coder nicht verdraengt.
Probe 24.09.: beide 8/8 Bildmerkmale; Hirn-Zwilling 68 t/s, Coder-Zwilling 12,5 t/s.

Bild-Weiche v3 im Gateway: Bild im aktuellen Schritt geht an den Zwilling der Rolle, aeltere
Bilder werden einmal beschrieben (gemerkt) und als Text mitgeschickt, damit der Rest einer
Agenten-Aufgabe wieder beim schnellen Modell laeuft. Qwen3-VL gibt "vision" ab, der Coder
verliert den Projektor, der mit Draft nur HTTP 500 lieferte.

Radar misst die Bildfaehigkeit des heutigen Modells ueber dessen Zwilling (sonst gewaenne
jeder bildfaehige Kandidat mit "versteht Bilder"). Pruefstand: Coder darf vor dem Aendern
lesen (Version 3). Modelle-Seite zeigt "Bilder: ja" ueber den Zwilling.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>

backend/routers/gateway_proxy.py

@@ -1,12 +1,15 @@
+import hashlib
+import json
 import logging
 import os
+from collections import OrderedDict
 
 import httpx
 from config import LLAMA_SWAP_URL
 from fastapi import APIRouter, Request
 from fastapi.responses import JSONResponse, StreamingResponse
 from services.gateway_stream import record_stream_chunk, record_usage, warn_truncation
-from services.router_logic import IMAGE_PART_TYPES, VISION_CAPABLE, choose_for_lane, has_image
+from services.router_logic import VISION_CAPABLE, bild_ziel, bilder_aufteilen, choose_for_lane, has_image
 from services.routing_policy import load_policy
 
 log = logging.getLogger(__name__)
@@ -22,15 +25,15 @@ _LANG_DIRECTIVE = os.environ.get(
     "Quellcode, Bezeichner und Shell-Befehle bleiben unverändert.")
 
 
-# Deckel für die Bild-Weiche. Ohne ihn wächst die Wartezeit linear mit der Bildzahl:
+# Deckel für die Bild-Beschreibungen. Ohne ihn wächst die Wartezeit linear mit der Bildzahl:
 # je Bild bis zu 2 Versuche à _BILD_TIMEOUT_S, und der Client hängt so lange am offenen
-# Request. Über _BILD_MAX Bilder wird gar nicht erst beschrieben — der Aufrufer fällt
-# dann auf die normale Vision-Umleitung zurück (ehrlich langsam statt scheinbar hängend).
+# Request. Sind mehr als _BILD_MAX Bilder NEU zu beschreiben, bleiben alle Bilder drin und die
+# Anfrage geht an den Bild-Zwilling (ehrlich langsam statt scheinbar hängend).
 _BILD_TIMEOUT_S = float(os.environ.get("MC_CODER_IMAGE_TIMEOUT_S", "240"))
 _BILD_MAX = int(os.environ.get("MC_CODER_IMAGE_MAX", "4"))
 
-# Bild-Beschreibung für Coder-Ziele: Prompt bewusst auf wörtliche Wiedergabe von
-# Code/Fehlermeldungen getrimmt — der Coder arbeitet nur mit diesem Text weiter.
+# Beschreibung älterer Bilder: Prompt bewusst auf wörtliche Wiedergabe von Code/Fehlermeldungen
+# getrimmt — das schnelle Modell arbeitet in den Folgeschritten nur noch mit diesem Text.
 _BILD_BESCHREIB_PROMPT = os.environ.get(
     "MC_CODER_IMAGE_PROMPT",
     "Beschreibe dieses Bild vollstaendig und praezise auf Deutsch: sichtbarer Text, "
@@ -70,61 +73,74 @@ def _apply_no_think_marker(body: dict) -> None:
         body["chat_template_kwargs"] = {"enable_thinking": False}
 
 
-def _ist_coder_alias(alias: str) -> bool:
-    """Coder-Ziele (coder, rohe Qwen-Coder-IDs) bekommen Bild-BESCHREIBUNGEN statt der
-    stumpfen Vision-Umleitung — die Code-Frage bleibt beim Spezialisten."""
-    return "coder" in (alias or "").lower()
+# Bild-Weiche v3 (24.09.2026). llama.cpp kann Draft-Beschleunigung und Bilder nicht zusammen (HTTP 500
+# „failed to process speculative batch“, b11057 und b11157 geprüft). Darum haben Hirn und Coder je einen
+# Bild-Zwilling: dieselben Gewichte mit Bild-Projektor, ohne Draft (vision, coder-bild).
+#   • Bild im aktuellen Schritt  → der Zwilling der Rolle sieht es selbst, auch mitten in einer Agenten-Aufgabe.
+#   • Bild aus früheren Schritten → einmal von vision beschrieben (je Bild gemerkt) und als Text mitgeschickt,
+#     damit der Rest der Aufgabe wieder beim schnellen Modell mit Draft läuft.
+_BESCHREIBUNGEN: OrderedDict[str, str] = OrderedDict()
+_BESCHREIBUNGEN_MAX = 64
 
 
-async def _bilder_fuer_coder_beschreiben(body: dict, client, vision_alias: str) -> bool:
-    """Ersetzt jeden Bild-Part durch eine Text-Beschreibung vom Vision-Modell.
+def _bild_schluessel(part: dict) -> str:
+    return hashlib.sha1(json.dumps(part, sort_keys=True).encode("utf-8")).hexdigest()
 
-    Idee aus einem verwaisten, nie verdrahteten Patch in der Hermes-Quelle
-    (gateway/platforms/api_server.py, 07/2026) — bei der Projekt-Review 15.07.
-    regelkonform hierher umgezogen (Archiv: docs/archiv/). True = alle Bilder
-    ersetzt; False = eine Analyse scheiterte, Aufrufer nutzt die normale
-    Vision-Umleitung als Fallback.
-    """
-    fundstellen: list[tuple[dict, int, dict]] = []
-    for m in body.get("messages") or []:
-        if not isinstance(m, dict) or not isinstance(m.get("content"), list):
-            continue
-        for i, part in enumerate(m["content"]):
-            if isinstance(part, dict) and part.get("type") in IMAGE_PART_TYPES:
-                fundstellen.append((m, i, part))
-    if len(fundstellen) > _BILD_MAX:
-        log.warning("Bild-Weiche v2: %s Bilder (Deckel %s) — Request geht an das Vision-Modell "
-                    "statt einzeln beschrieben zu werden", len(fundstellen), _BILD_MAX)
+
+async def _beschreibe(part: dict, vision_alias: str) -> str:
+    """Beschreibung eines Bild-Parts; Hermes und OpenCode schicken den ganzen Verlauf mit jedem Schritt
+    neu, darum wird jedes Bild nur einmal beschrieben."""
+    schluessel = _bild_schluessel(part)
+    if schluessel in _BESCHREIBUNGEN:
+        _BESCHREIBUNGEN.move_to_end(schluessel)
+        return _BESCHREIBUNGEN[schluessel]
+    frage = {
+        "model": vision_alias,
+        "stream": False,
+        "max_tokens": 700,
+        # Denken aus: sonst frisst die Denkphase das Token-Budget und die Beschreibung bleibt leer.
+        "chat_template_kwargs": {"enable_thinking": False},
+        "messages": [{"role": "user", "content": [part, {"type": "text", "text": _BILD_BESCHREIB_PROMPT}]}],
+    }
+    text = ""
+    # Eigener Kurzzeit-Client statt des gepoolten (Befund 15.07.: ReadTimeout nach Sekunden trotz
+    # timeout=240 — llama-swap kappt beim Modell-Swap gern alte Keep-Alive-Sockets) + 1 Retry.
+    for versuch in (1, 2):
+        try:
+            async with httpx.AsyncClient(timeout=_BILD_TIMEOUT_S) as c:
+                r = await c.post(f"{LLAMA_SWAP_URL}/v1/chat/completions", json=frage)
+            if r.status_code == 200:
+                text = ((r.json().get("choices") or [{}])[0].get("message") or {}).get("content") or ""
+            if text.strip():
+                break
+            log.warning("Bild-Weiche (Versuch %s): Beschreibung leer/HTTP %s — %.200s",
+                        versuch, r.status_code, r.text)
+        except Exception:
+            log.warning("Bild-Weiche (Versuch %s): Beschreibung scheiterte", versuch, exc_info=True)
+    text = text.strip()
+    if text:
+        _BESCHREIBUNGEN[schluessel] = text
+        while len(_BESCHREIBUNGEN) > _BESCHREIBUNGEN_MAX:
+            _BESCHREIBUNGEN.popitem(last=False)
+    return text
+
+
+async def _alte_bilder_beschreiben(alt: list[tuple[dict, int]], vision_alias: str) -> bool:
+    """Bilder aus früheren Schritten durch ihre Beschreibung ersetzen. False = ging nicht (zu viele neue
+    oder eine Beschreibung scheiterte) — dann bleiben alle Bilder drin."""
+    neu = {_bild_schluessel(msg["content"][idx]) for msg, idx in alt} - set(_BESCHREIBUNGEN)
+    if len(neu) > _BILD_MAX:
+        log.warning("Bild-Weiche: %s ältere Bilder neu zu beschreiben (Deckel %s) — Anfrage geht mit allen "
+                    "Bildern an den Bild-Zwilling", len(neu), _BILD_MAX)
         return False
-    for nr, (msg, idx, part) in enumerate(fundstellen, start=1):
-        frage = {
-            "model": vision_alias,
-            "stream": False,
-            "max_tokens": 700,
-            "messages": [{"role": "user",
-                          "content": [part, {"type": "text", "text": _BILD_BESCHREIB_PROMPT}]}],
-        }
-        # Eigener Kurzzeit-Client statt des gepoolten (Befund 15.07.: ReadTimeout nach
-        # Sekunden trotz timeout=240 — llama-swap kappt beim Modell-Swap gern alte
-        # Keep-Alive-Sockets, der Pool reicht sie trotzdem wieder aus) + 1 Retry.
-        text = ""
-        for versuch in (1, 2):
-            try:
-                async with httpx.AsyncClient(timeout=_BILD_TIMEOUT_S) as c:
-                    r = await c.post(f"{LLAMA_SWAP_URL}/v1/chat/completions", json=frage)
-                if r.status_code == 200:
-                    text = ((r.json().get("choices") or [{}])[0].get("message") or {}).get("content") or ""
-                if text.strip():
-                    break
-                log.warning("Bild-Weiche v2 (Versuch %s): Beschreibung leer/HTTP %s — %.200s",
-                            versuch, r.status_code, r.text)
-            except Exception:
-                log.warning("Bild-Weiche v2 (Versuch %s): Vision-Aufruf scheiterte", versuch, exc_info=True)
-        if not text.strip():
+    texte = []
+    for msg, idx in alt:
+        text = await _beschreibe(msg["content"][idx], vision_alias)
+        if not text:
             return False
-        msg["content"][idx] = {"type": "text", "text": (
-            f"[Bild {nr}: dem Request lag ein Bild bei — {vision_alias} beschreibt es so:\n"
-            f"{text.strip()}]")}
+        texte.append((msg, idx, text))
+    for msg, idx, text in texte:
+        msg["content"][idx] = {"type": "text", "text": f"[Bild aus einem früheren Schritt — so sah es aus:\n{text}]"}
     return True
 
 
@@ -233,25 +249,27 @@ async def _proxy(path: str, request: Request):
 
     pol = load_policy()
     client = request.app.state.gw_client  # geteilter Keep-Alive-Client (siehe app.py lifespan)
-    # Bild-Weiche (Faden 11): Requests mit Bild-Anhang automatisch ans Vision-Modell umleiten,
-    # sofern das Ziel nicht ohnehin bildfähig ist. Das MTP-Hirn (fast/hermes) kann keine Bilder —
-    # so bleibt Lucy schnell, ohne dass jemand manuell das Modell wechselt (Entscheid Weg A).
-    # Coder-Sonderweg (15.07.): Coder-Ziele behalten den Request — die Bilder werden vorab vom
-    # Vision-Modell BESCHRIEBEN und als Text injiziert (Screenshot-Debugging bleibt beim Coder).
+    angefragt = alias
+    # Bild-Weiche v3 (siehe oben): Bild im aktuellen Schritt → Bild-Zwilling der Rolle; ältere Bilder →
+    # Beschreibung als Text, die Anfrage bleibt beim schnellen Modell.
     vision_alias = pol.get("vision")
     if vision_alias and alias not in VISION_CAPABLE and has_image(body):
-        if _ist_coder_alias(alias) and await _bilder_fuer_coder_beschreiben(body, client, vision_alias):
-            routed = {"x-mc-routed-to": alias,
-                      "x-mc-route-reason": "Bild beschrieben (Vision) -> bleibt beim Coder",
-                      "x-mc-lane": routed.get("x-mc-lane", "-")}
-        else:
-            alias = vision_alias
+        frisch, alt = bilder_aufteilen(body)
+        beschrieben = bool(alt) and await _alte_bilder_beschreiben(alt, vision_alias)
+        lane = routed.get("x-mc-lane", "-")
+        if frisch or not beschrieben:
+            alias = bild_ziel(alias, vision_alias, pol.get("coder_vision") or None)
             body["model"] = alias
             # HTTP-Header-Werte muessen latin-1 sein — kein '→' o.ae. (sonst 500, 13.07.).
-            routed = {"x-mc-routed-to": alias, "x-mc-route-reason": "Bild erkannt -> Vision-Modell",
-                      "x-mc-lane": routed.get("x-mc-lane", "-")}
-    # fast-Spur: Thinking aus für flotte Antworten (sofern Client es nicht selbst setzt).
-    if pol["fast_no_think"] and alias == pol["fast"] and "chat_template_kwargs" not in body:
+            routed = {"x-mc-routed-to": alias, "x-mc-route-reason": "Bild im aktuellen Schritt -> Bild-Zwilling",
+                      "x-mc-lane": lane}
+        else:
+            routed = {"x-mc-routed-to": alias,
+                      "x-mc-route-reason": "aeltere Bilder beschrieben -> bleibt beim schnellen Modell",
+                      "x-mc-lane": lane}
+    # fast-Spur: Thinking aus für flotte Antworten (sofern Client es nicht selbst setzt) — auch wenn die
+    # Anfrage wegen eines Bildes beim Hirn-Zwilling landet (gleiches Hirn, gleiche Spur).
+    if pol["fast_no_think"] and angefragt == pol["fast"] and "chat_template_kwargs" not in body:
         body["chat_template_kwargs"] = {"enable_thinking": False}
     _inject_language(body, alias)
     url = f"{LLAMA_SWAP_URL}{path}"