Hitonabi
689bf3eed3
deploy/lobechat/: docker-compose.yml (client-only, lobehub/lobe-chat), .env.example, README. Spricht den MC2-Gateway (:9001/v1) der AI-Box an, fixierte Modell-Liste + vorkonfigurierter Hermes-Assistent. Läuft auf dem Proxmox-MiniPC, nicht auf der AI-Box (hält die Box schlank). Ersetzt nesquena/ hermes-webui. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
LobeChat — Hermes-Chat-Frontend (ersetzt nesquena/hermes-webui)
Läuft auf dem Proxmox-MiniPC (nicht auf der AI-Box). Schlanke client-only Edition:
kein Postgres/Auth/S3, Verlauf liegt im Browser. Spricht über LAN den OpenAI-kompatiblen
MC2-Gateway der AI-Box an (:9001/v1, liefert model:auto + alle llama-swap-Modelle).
Installation (auf dem Proxmox-Host bzw. einem LXC/VM mit Docker)
# In einem LXC/VM mit Docker + compose-Plugin:
mkdir -p ~/lobechat && cd ~/lobechat
# docker-compose.yml + .env.example aus diesem Ordner herkopieren
cp .env.example .env
nano .env # ACCESS_CODE setzen, AI_BOX_GATEWAY prüfen
docker compose up -d
Öffnen: http://<proxmox-ip>:3210 → Zugangscode = ACCESS_CODE.
Was ist vorkonfiguriert
- Modell-Liste auf
Hermes-4-14B,Qwen3.6-35B-A3B(fast),Qwen3-Coder-Next,Qwen3.5-122B-A10B(heavy) undautofixiert (OPENAI_MODEL_LIST). - Hermes-Standardassistent (Modell
Hermes-4-14B+ System-Prompt) viaDEFAULT_AGENT_CONFIG.
Endpoint-Wahl (in .env)
- MC2-Gateway
:9001/v1(Default, empfohlen) — OpenAI-kompatibel,model:auto, Token-Tracking, alle Modelle. - llama-swap
:8080/v1— direkt, ohne Routing/Token-Tracking. - hermes-agent
:8642/v1— nur falls die Chat-UI den Agenten (Tools/MCP/Memory) nutzen soll; API-Kompatibilität vorher prüfen.
Cutover (alte hermes-webui ablösen)
Auf der AI-Box:
systemctl --user disable --now hermes-webui
In MC2 den „Hermes öffnen"-Link auf LobeChat zeigen lassen:
HERMES_WEBUI_URL=http://<proxmox-ip>:3210 (env der mission-control-2.service).
Hinweis
Tool-/Function-Calls streamt llama.cpp nicht nativ — für reine Chat-Nutzung irrelevant. Bei Bedarf an persistenter History/RAG später auf die DB-Edition (Postgres+pgvector) umstellen.