Hitonabi
c48e583790
Engine-Cutover ROCm/HIP -> Vulkan/RADV (gfx1151): +12-22% tg auf MoE (llama-bench
verifiziert, fast 53->65 t/s). ROCm-Build bleibt als Rollback unter /opt/llamacpp.
- Backend: vocab-aware Speculative Decoding. services/gguf_meta.py liest den
Tokenizer-Fingerprint (model/pre/n_vocab) direkt aus dem GGUF-Header (ohne Modell-Load);
register_model + migrate_config haengen nur VOCAB-KOMPATIBLE Drafts an (inkl. --spec-type,
das in dieser llama.cpp-Generation noetig ist). Neue Endpoints /api/models/drafts + /{id}/draft.
- Frontend: idiotensichere Spec-Draft-UI (SpecDraftModal) - nur kompatible Drafts waehlbar,
inkompatible gesperrt mit Begruendung; SPEC/SPEC?-Badge nach echtem Aktiv-Status; Rolle in AddModel.
- maintenance.py: Engine-Update-Quelle -> ggml-org/llama.cpp (Build-Nummer-Vergleich),
ENGINE_PATH=/opt/llamacpp-vulkan.
- Startup-Warmup der brains (deploy/warmup.sh, self-detaching ExecStartPost) + deploy/provision-engine.sh.
- Cleanup: tote LiteLLM gateway/config.yaml + alle Referenzen (config.py/backup.py/backup.sh) entfernt;
README + docs/memory aktualisiert.
Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
29 lines
1.1 KiB
Bash
29 lines
1.1 KiB
Bash
#!/usr/bin/env bash
|
|
# Lädt die "brains" (hermes/fast/vision) nach einem llama-swap-(Re)Start vor,
|
|
# damit die ERSTE Anfrage nicht kalt ist (llama-swap lädt sonst lazy bei Bedarf).
|
|
# Eingehängt als ExecStartPost=-/usr/local/bin/llama-swap-warmup.sh in llama-swap.
|
|
#
|
|
# Selbst-detachend: der ExecStartPost-Aufruf kehrt sofort zurück (blockiert den
|
|
# Service-Start NICHT); die eigentliche Aufwärmung läuft entkoppelt im Hintergrund.
|
|
set -u
|
|
URL="${MC_LLAMA_SWAP_URL:-http://127.0.0.1:8080}"
|
|
BRAINS="${MC_WARMUP_MODELS:-hermes fast vision}"
|
|
|
|
if [ "${1:-}" != "--inner" ]; then
|
|
setsid "$0" --inner >/dev/null 2>&1 &
|
|
exit 0
|
|
fi
|
|
|
|
# --- ab hier im entkoppelten Hintergrundprozess ---
|
|
for _ in $(seq 1 60); do # auf llama-swap warten (max ~120s)
|
|
curl -sf "$URL/v1/models" >/dev/null 2>&1 && break
|
|
sleep 2
|
|
done
|
|
|
|
for m in $BRAINS; do
|
|
curl -s -m 180 -X POST "$URL/v1/chat/completions" \
|
|
-H 'Content-Type: application/json' \
|
|
-d "{\"model\":\"$m\",\"max_tokens\":1,\"messages\":[{\"role\":\"user\",\"content\":\"ping\"}]}" \
|
|
>/dev/null 2>&1 || true
|
|
done
|