Ampel / ampel (push) Successful in 21s
Recherche zur offenen Frage "fehlt der kritiker?": Er fehlt nicht, er wurde abgeschafft. Die Modell-Konsolidierung (9a35be9, 19.08.) warf Devstral aus llama-swap, und fremdblick.sh - der EINZIGE Aufrufer der Rolle - fiel mit dem MC2-Kahlschlag (1e68f62). Live gegengeprueft: kein Skill, keine Hermes-Config und kein Profil nennt 'kritiker'. Gewollt so: ein Coder, ein Agent-Hirn. Beim Abgleich zeigte sich, dass die Tabellen weit mehr erfanden als den Kritiker. Gegen /etc/llama-swap/config.yaml geprueft sind es SIEBEN Rollen: hermes/fast, coder, debugger, vision, heavy, reranker, embed. Korrigiert: - `coder` stand als Qwen3-Coder-Next (80B MoE, 51,5 t/s) drin - real ist es Qwen3.8-27B mit 131k ctx und ~12,7 t/s. Der Eintrag `dense-planer` war dasselbe Modell ein zweites Mal: es ist kein Planer NEBEN dem Coder, es IST der Coder. - `kritiker`, `scout` und `doctor` existieren nicht mehr - Zeilen raus, mit Notiz warum, damit niemand wieder danach sucht. - Hermes v0.20.4 -> v0.20.6; die Behauptung eines Bot-Rosters ("Coder mit Qwen3-Coder-Next, Debugger mit Muse-Glimmer") ist frei erfunden: die bots-Sektion in ~/.hermes/config.yaml ist LEER, die Profile fahren hermes, fast und vision. - README verlangte fuer die Gruppe `brains` ausdruecklich `persistent: false` - live steht `true`. Auf die gemessene Regel korrigiert: entscheidend ist nicht der Schalter, sondern dass alles gleichzeitig Warme in DIESELBE Gruppe gehoert (zwei Gruppen verdraengen sich, persistent schuetzt nicht davor). Weiter geprueft und richtiggestellt: - config.py behauptete, die Hermes-UI binde NUR auf Loopback. Tut sie nicht: ein systemd-Drop-in setzt --host 0.0.0.0 und dafuer ein Session-Token. Dass sie nicht im LAN haengt, liegt allein an ufw - von einem zweiten Rechner aus gegengeprueft (9119/8642/9010/7682 dicht, 9001/8080 offen wie gewollt). Der Kommentar sagt das jetzt, damit sich niemand auf die Loopback-Annahme verlaesst. - AGENTS.md: die feingranularen sudoers.d-Regeln schraenken nichts ein, weil /etc/sudoers pauschal NOPASSWD: ALL gewaehrt. Steht jetzt dort, statt Sicherheit vorzutaeuschen. (Die doppelte Zeile wurde auf der Box entfernt, visudo -c ok, Sicherung /root/sudoers.bak-20260827-170315.) Auf der Box ausserdem: Qwen3-Coder-Next-GGUF geloescht (46 GB frei, 240G -> 194G). Der Ordner war in der Live-Config mit 0 Treffern nicht mehr eingebunden; die drei verbliebenen Code-Referenzen sind ein Katalog-Eintrag zum Wiederinstallieren und zwei Kommentare zur Groessen-Heuristik. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
150 lines
7.6 KiB
Markdown
150 lines
7.6 KiB
Markdown
# Mission Control 2.0
|
||
|
||
Steuerzentrale des lokalen KI-Stacks auf dem **Bosgame M5** (AMD Ryzen AI MAX+ 395 „Strix Halo",
|
||
122 GB Unified Memory, **keine dedizierte GPU** — llama.cpp über **Vulkan/RADV**). Läuft live als
|
||
sudo-freier systemd-User-Dienst und ist auf **Autonomie** ausgelegt: Die Box wartet sich selbst,
|
||
prüft sich selbst und meldet sich, wenn etwas nicht stimmt.
|
||
|
||
> **100 % lokal.** Kein Cloud-Modell, kein externer Dienst im Datenpfad.
|
||
|
||
## Die drei Bahnen
|
||
|
||
| Bahn | Was sie tut | Wo |
|
||
|---|---|---|
|
||
| **Steuerzentrale** | Modelle, Routing, Wartung, Gedächtnis, Ideen-Queue, Auftragsbuch | MC2 `:9001` |
|
||
| **Coding** | Agentic IDE (z.B. OpenCode Desktop) auf Dev-PC via lokaler API + MCP | 100% lokal |
|
||
| **Lucy** | Sprach-Companion mit 3D-Avatar, Augen und Ohren | eigenes Repo `Hitonabi/lucy` |
|
||
|
||
Lucy holt ihr Hirn direkt über das MC2-Gateway (`:9010/v1`) mit nativer Bildweiche und Voice-Streaming.
|
||
|
||
## Ports & Dienste
|
||
|
||
| Port | Dienst | Erreichbar |
|
||
|---|---|---|
|
||
| `9001` | **MC2** (FastAPI + React) — Cockpit, API, Konsole | LAN |
|
||
| `8080` | **llama-swap** — Modell-Router | LAN |
|
||
| `9010` | `mc2-gateway` — `/v1`-Datenpfad (`model: auto`, Bild-Weiche) | loopback |
|
||
| `8642` · `9119` | Hermes-Gateway · Hermes-Web-UI | loopback |
|
||
| `8765` · `8650` | Mem0-Sidecar · Voice-Sidecar (STT/TTS) | loopback |
|
||
| `7682` | ttyd — Box-Konsole, same-origin unter `/console/` | loopback |
|
||
|
||
Units in [`deploy/`](deploy/): `mission-control-2` · `mc2-gateway` · `mc2-steward` ·
|
||
`mem0-service` · `voice-service` · `box-console` · `hermes-builtin-ui` + Timer für Backup,
|
||
Auto-Update, Self-Smoke und Bagatell-Annahme. `llama-swap` läuft als System-Unit.
|
||
|
||
## Die Bau-Pipeline
|
||
|
||
```
|
||
Idee in MC2 → Gitea-Repo (mit CI-Ampel + VERIFY) → in Agentic IDE bauen → Ampel → main
|
||
└── autonomes Vibe Coding via OpenCode Desktop + MCP
|
||
```
|
||
|
||
Jedes neue Repo wird von [`deploy/gitea-repo-create.sh`](deploy/gitea-repo-create.sh) **mit beiden
|
||
Wächtern geboren**:
|
||
|
||
- **`.gitea/workflows/ci.yml`** — die Außen-Prüfung nach dem Push (Gitea Actions)
|
||
- **`VERIFY`** — die Innen-Prüfung: eine Zeile, wie man das Projekt testet. Die Agentic IDE
|
||
führt sie im Mix-Ansatz vor jedem Push aus, um Code-Fehler ("Quality Gap") abzufangen.
|
||
Keine `VERIFY`-Datei = Prüf-Tor aus.
|
||
|
||
## Modelle & Rollen
|
||
|
||
Gemessen auf der Box (Stand: 27.08.2026, Vulkan b10653):
|
||
|
||
| Rolle | Modell | Tempo | Aufgabe |
|
||
|---|---|---|---|
|
||
| `coder` | Qwen3.8-27B (dicht, 27B) | **12,7 t/s** | Plant und baut — der Haupt-Coder. **131k Kontext** (ganzer Slot), multimodal |
|
||
| `hermes` / `fast` | Qwen3.6-35B-A3B | **69,6–90 t/s** | Lucys Hirn **und** Sucher-Subagent. Immer warm, 65k/Slot |
|
||
| `debugger` | Muse-Glimmer-30B | **40–50 t/s** (DFlash) | Runtime-Debugger & Fehler-Diagnostiker (multimodal) |
|
||
| `vision` | Qwen3-VL-30B-A3B | auf Abruf | Lucys Augen (On-Demand) |
|
||
| `heavy` | gpt-oss-120b | nur nachts | Chef-Gutachter (4:30 Uhr). **Nie tagsüber** — verdrängt das warme Set |
|
||
| `embed` · `reranker` | Qwen3 0.6B | immer warm | Vektorsuche + Feinsortierung |
|
||
|
||
> Sieben Rollen, mehr nicht. Frühere Fassungen listeten hier auch `kritiker`, `scout` und
|
||
> `dense-planer` — die Modell-Konsolidierung vom 19.08. hat sie entfernt (ein Coder, ein
|
||
> Agent-Hirn). Der dichte 27B ist seither nicht mehr „Planer" neben dem Coder, sondern **ist**
|
||
> der Coder. Details: `docs/wissen/STACK.md`.
|
||
|
||
‼️ **Dichte Modelle sind auf dieser Box bandbreitengebunden.** Der Prefill bricht mit wachsendem
|
||
Kontext ein — beim früheren Kritiker (Devstral, dicht) waren bei 32k gemessene 63 t/s ≈ **9 Minuten
|
||
nur zum Lesen**, weshalb er hart auf 16k gedeckelt war. Das gilt weiter für jedes dichte Modell:
|
||
`coder` (Qwen3.8-27B) liefert ~12,7 t/s gegen ~90 t/s des MoE-Hirns — **kein Konfigfehler, sondern
|
||
das 215-GB/s-Limit der Plattform.** Der Kritiker selbst ist seit dem 19.08. nicht mehr im Stack.
|
||
|
||
‼️ **Speicher-Regel:** `Warm-Set + größtes On-Demand-Modell ≤ ~115 GB`. Die ko-residente Gruppe
|
||
(`groups.brains`) steht auf **`persistent: true`** (Verdrängungsschutz; live gegengeprüft
|
||
27.08.2026). Wichtig ist nicht der Schalter, sondern: **alles, was gleichzeitig warm sein muss,
|
||
gehört in DIESELBE Gruppe** — zwei Gruppen verdrängen sich gegenseitig, und `persistent` schützt
|
||
nicht davor (gemessen 25.07.). Details und
|
||
Messwerte: [`docs/wissen/VERDIKTE.md`](docs/wissen/VERDIKTE.md).
|
||
|
||
## Qualitäts-Tore
|
||
|
||
1. **Prüf-Tor** — `VERIFY` nach jeder Etappe; rot → der Agent (OpenCode Desktop) repariert lokal nach.
|
||
2. **CI-Ampel** — Lint (ruff) · Import/Syntax (compileall) · Frontend-Build. Läuft in Gitea.
|
||
|
||
Gemeinsame Lehre dahinter: **Wissen lebt in Datei + git, nicht im schrumpfenden Chat-Kontext.**
|
||
Kontext-Komprimierung löscht still die Regeln mit.
|
||
|
||
## Selbsterhaltung
|
||
|
||
- **Health-Wächter** (`sentry`) + **Warm-Set-Wächter** (`warmer`, per Env abschaltbar)
|
||
- **Updates mit Fangnetz** — Backup → Update → Postcheck → bei Fehler **Auto-Rollback + Pin**
|
||
- **Melde-Briefkasten** (`/api/voice/announce`) — alles, was die Box von sich aus sagen will;
|
||
Lucy pollt ihn und spricht es. Absender `loop` = Coding-Ereignisse
|
||
- **Gedächtnis** — Mem0-Sidecar, auto-lernend, semantisch, mit Auto-Dedupe
|
||
- Tägliche Self-Smokes, Zeitmaschine (Snapshot + Ein-Klick-Restore), Chronik der autonomen Taten
|
||
|
||
## API (Auswahl)
|
||
|
||
`health · models/* · discover · fit · groups · routing/* · system/* · maintenance/* · connect ·
|
||
memory/* · agent/* · ideen/* · auftragsbuch/* · chronik · eigenleben · wissen ·
|
||
zeitmaschine/* · reminders/* · voice/* · events (SSE)`
|
||
OpenAI-kompatibel: `/v1/chat/completions`, `/v1/completions`. MCP-Server: [`mcp/`](mcp/).
|
||
|
||
## Entwickeln
|
||
|
||
```bash
|
||
# Backend
|
||
cd backend
|
||
python -m venv .venv && .venv/Scripts/python -m pip install -r requirements.txt # Windows
|
||
.venv/Scripts/python -m uvicorn app:app --port 9000
|
||
|
||
# Frontend (Dev, proxyt /api → :9000)
|
||
cd frontend && npm install && npm run dev # http://localhost:5173
|
||
|
||
# Frontend (Build → wird vom Backend ausgeliefert)
|
||
cd frontend && npm run build # → frontend/dist
|
||
```
|
||
|
||
`frontend/dist` **wird mitcommittet** — die Box hat kein Node; Deploy ist ein `git pull` plus
|
||
Dienst-Neustart. Vor jedem Commit lohnt der Ampel-Vorlauf: `ruff check .` und `npm run build`.
|
||
|
||
## Env-Vars (Auswahl)
|
||
|
||
| Variable | Default | Zweck |
|
||
|---|---|---|
|
||
| `MC_PORT` | `9000` | MC-Backend-Port (**die Unit auf der Box setzt `9001`**) |
|
||
| `MC_LLAMA_SWAP_URL` | `http://127.0.0.1:8080` | Engine/Router |
|
||
| `MC_CONFIG_PATH` | `/etc/llama-swap/config.yaml` | llama-swap-Config |
|
||
| `MC_V1_UPSTREAM` | – | gesetzt → `/v1` geht an `mc2-gateway` (`:9010`) statt in-process |
|
||
|
||
| `MC_ENGINE_PATH` | `/opt/llamacpp-vulkan` | aktive Engine (Vulkan-Build) |
|
||
| `MC_REWARM_ENABLED` | `1` | Warm-Set-Wächter (auf der Box bewusst `0`) |
|
||
| `MC_DRAFTS_DIR` · `MC_SPEC_TYPE` | `$MODELS/drafts` · `draft-simple` | Spekulatives Dekodieren |
|
||
|
||
|
||
|
||
## Weiterlesen
|
||
|
||
| Dokument | Inhalt |
|
||
|---|---|
|
||
| [`docs/BEDIENUNG.md`](docs/BEDIENUNG.md) | Wie man MC2 benutzt |
|
||
| [`docs/RUNBOOK.md`](docs/RUNBOOK.md) · [`docs/DISASTER_RECOVERY.md`](docs/DISASTER_RECOVERY.md) | Betrieb, Störungen, Wiederherstellung |
|
||
| [`docs/HERMES_SETUP.md`](docs/HERMES_SETUP.md) | Hermes-Agent, Profile, Crons |
|
||
| [`docs/AUFTRAGSBUCH.md`](docs/AUFTRAGSBUCH.md) | Vorschlags-Inbox und das Ein-Klick-Gate |
|
||
| [`docs/wissen/VERDIKTE.md`](docs/wissen/VERDIKTE.md) | **Finale Technik-Entscheide — nicht neu aufrollen** |
|
||
| [`docs/wissen/FALLEN.md`](docs/wissen/FALLEN.md) · [`docs/wissen/OFFENE-FAEDEN.md`](docs/wissen/OFFENE-FAEDEN.md) | Stolpersteine · offene Punkte |
|
||
|
||
| [`AGENTS.md`](AGENTS.md) | Arbeitsregeln für Agenten in diesem Repo |
|