Report: Lemonade-Verdikt — nicht als Unterbau; GPU-Klon besser mit llama.cpp-Vulkan + llama-swap (Box-Stack)

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
Hitonabi
2026-07-02 11:59:52 +02:00
parent 47ade040e6
commit ed55612cfa
+1 -1
View File
@@ -261,7 +261,7 @@ Quelle: `/api/voice/metrics` (live) + eigener TTFT-Test gegen llama-swap.
| **P3-15 Mem0 v3** | ✅ verifiziert aktiv (BM25/Entity/Hybrid in 2.0.8); mc2-memory nutzt jetzt `sync_turn(messages)` — lernt Tool-NAMEN mit (Ergebnisse bewusst nicht: Poisoning-Vektor). Deployt, Postcheck grün | | **P3-15 Mem0 v3** | ✅ verifiziert aktiv (BM25/Entity/Hybrid in 2.0.8); mc2-memory nutzt jetzt `sync_turn(messages)` — lernt Tool-NAMEN mit (Ergebnisse bewusst nicht: Poisoning-Vektor). Deployt, Postcheck grün |
| **P3-16 llama-swap** | ✅ `capabilities` (in/out/tools/context) je Modell in deploy-Config; Swap-Matrix aktuell unnötig (brains-Gruppe reicht) | | **P3-16 llama-swap** | ✅ `capabilities` (in/out/tools/context) je Modell in deploy-Config; Swap-Matrix aktuell unnötig (brains-Gruppe reicht) |
| **P3-17 Kandidaten** | 🔄 Downloads laufen (nohup, Box): Qwen3-VL-30B-A3B (~18 GB) + gpt-oss-120B (~63 GB) nach /srv/models/; 1,6 TB frei. Bench nach Abschluss (Log: /tmp/dl_candidates.log) | | **P3-17 Kandidaten** | 🔄 Downloads laufen (nohup, Box): Qwen3-VL-30B-A3B (~18 GB) + gpt-oss-120B (~63 GB) nach /srv/models/; 1,6 TB frei. Bench nach Abschluss (Log: /tmp/dl_candidates.log) |
| **P3-18 Lemonade** | 🔄 lemonade-sdk 9.1.4 lokal installiert, Server läuft (OpenAI-kompatibel :8555); GPU-Inferenz-Test s.u. | | **P3-18 Lemonade** | **Verdikt: nicht als Unterbau.** lemonade-sdk 9.1.4 (Python) installiert + Server lief (OpenAI-API, gute Registry inkl. gpt-oss/GLM) — aber: Python-Edition **offiziell deprecated** (C++-Installer ist der Weg), Server blockiert komplett während Model-Downloads (Health tot >10 min bei 400-MB-Modell), Ryzen-AI-Hybrid auf 9700X unsupported. **Empfehlung für den lokalen GPU-Klon: llama.cpp-Vulkan + llama-swap — derselbe Stack wie die Box** (ein Betriebsmodell, ein Know-how, bewährte Configs). Lemonade-C++ nur, falls Whisper+TTS+LLM aus einer Hand gewünscht |
| **MC3-Vollbau** | ⛔ außerhalb des Review-Scopes — eigenes Projekt (Prototyp steht unter #mc3) | | **MC3-Vollbau** | ⛔ außerhalb des Review-Scopes — eigenes Projekt (Prototyp steht unter #mc3) |
--- ---