# LobeChat — Hermes-Chat-Frontend (ersetzt nesquena/hermes-webui) Läuft auf dem **Proxmox-MiniPC** (nicht auf der AI-Box). Schlanke client-only Edition: kein Postgres/Auth/S3, Verlauf liegt im Browser. Spricht über LAN den OpenAI-kompatiblen **MC2-Gateway** der AI-Box an (`:9001/v1`, liefert `model:auto` + alle llama-swap-Modelle). ## Installation (auf dem Proxmox-Host bzw. einem LXC/VM mit Docker) ```bash # In einem LXC/VM mit Docker + compose-Plugin: mkdir -p ~/lobechat && cd ~/lobechat # docker-compose.yml + .env.example aus diesem Ordner herkopieren cp .env.example .env nano .env # ACCESS_CODE setzen, AI_BOX_GATEWAY prüfen docker compose up -d ``` Öffnen: `http://:3210` → Zugangscode = `ACCESS_CODE`. ## Was ist vorkonfiguriert - **Modell-Liste** auf `Hermes-4-14B`, `Qwen3.6-35B-A3B` (fast), `Qwen3-Coder-Next`, `Qwen3.5-122B-A10B` (heavy) und `auto` fixiert (`OPENAI_MODEL_LIST`). - **Hermes-Standardassistent** (Modell `Hermes-4-14B` + System-Prompt) via `DEFAULT_AGENT_CONFIG`. ## Endpoint-Wahl (in `.env`) - **MC2-Gateway `:9001/v1`** *(Default, empfohlen)* — OpenAI-kompatibel, `model:auto`, Token-Tracking, alle Modelle. - **llama-swap `:8080/v1`** — direkt, ohne Routing/Token-Tracking. - **hermes-agent `:8642/v1`** — nur falls die Chat-UI den **Agenten** (Tools/MCP/Memory) nutzen soll; API-Kompatibilität vorher prüfen. ## Cutover (alte hermes-webui ablösen) Auf der **AI-Box**: ```bash systemctl --user disable --now hermes-webui ``` In MC2 den „Hermes öffnen"-Link auf LobeChat zeigen lassen: `HERMES_WEBUI_URL=http://:3210` (env der `mission-control-2.service`). ## Hinweis Tool-/Function-Calls streamt llama.cpp nicht nativ — für reine Chat-Nutzung irrelevant. Bei Bedarf an persistenter History/RAG später auf die DB-Edition (Postgres+pgvector) umstellen.