Hitonabi
d73075bea0
ROOT CAUSE: Die Unit pinnte MC_ENGINE_UPDATE_CMD=/usr/local/bin/update-llamacpp — ein Alt-Skript aus der ROCm-Zeit, das den ROCm-Build nach /opt/llamacpp (totes Rollback-Dir) zog statt des aktiven Vulkan-Builds nach /opt/llamacpp-vulkan. Es endete mit 0 → Job "DONE", aber die aktive Engine blieb auf 9821. Mein deploy/update-engine.sh lag dadurch komplett brach. Fix: Pin aus der Unit raus → Backend nutzt den Default `sudo bash <repo>/deploy/update-engine.sh`. Zusätzlich (vom User vermutet): mit geladenem Modell laeuft llama-server → die Binary ist "Text file busy", in-place ueberschreiben scheitert. update-engine.sh und update-swap.sh stoppen llama-swap jetzt VOR dem Austausch und starten danach, mit robustem Fehlerpfad (set -uo statt -e, Service kommt immer zurueck, sonst Rollback aus .bak). Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
69 lines
2.9 KiB
Bash
Executable File
69 lines
2.9 KiB
Bash
Executable File
#!/usr/bin/env bash
|
|
# Aktualisiert den llama-swap-Router (mostlygeek/llama-swap) auf den neuesten Release.
|
|
# Wird vom MC2-„Router Update"-Button via `sudo bash …` als ROOT aufgerufen (kein internes sudo).
|
|
#
|
|
# Wichtig: llama-swap wird VOR dem Binary-Tausch gestoppt — sonst ist die laufende Binary
|
|
# „Text file busy". Danach Stack-Check (echte Inferenz); bei Fehler Auto-Rollback.
|
|
#
|
|
# Exit 0 = neue Version verifiziert · 1 = fehlgeschlagen, Rollback ok (alte Version läuft)
|
|
# · 2 = Update UND Rollback fehlgeschlagen (Stack evtl. kaputt — bitte prüfen)
|
|
set -uo pipefail # bewusst KEIN -e: bei Fehlern kontrolliert zurückrollen statt hart abbrechen
|
|
|
|
SWAP_BIN="${MC_SWAP_BIN:-/usr/local/bin/llama-swap}"
|
|
BAK="${SWAP_BIN}.bak" # „letzte funktionierende Version" für Auto-Rollback
|
|
SRC_DIR="$(cd "$(dirname "$0")" && pwd)"
|
|
PIN_VER="${MC_SWAP_VERSION:-}" # leer = neuester Release
|
|
|
|
die(){ echo "$1" >&2; exit 1; }
|
|
start_swap(){ systemctl start llama-swap || systemctl restart llama-swap; }
|
|
|
|
if [ -n "$PIN_VER" ]; then
|
|
TAG="$PIN_VER"
|
|
else
|
|
TAG="$(curl -s https://api.github.com/repos/mostlygeek/llama-swap/releases/latest | jq -r .tag_name)"
|
|
fi
|
|
[ -n "$TAG" ] && [ "$TAG" != "null" ] || die "Konnte neuesten Release-Tag nicht ermitteln"
|
|
|
|
# Asset-Name nutzt die nackte Nummer (z.B. v230 -> 230): llama-swap_230_linux_amd64.tar.gz
|
|
NUM="${TAG#v}"
|
|
ASSET="llama-swap_${NUM}_linux_amd64.tar.gz"
|
|
URL="https://github.com/mostlygeek/llama-swap/releases/download/${TAG}/${ASSET}"
|
|
TMP="$(mktemp -d)"
|
|
trap 'rm -rf "$TMP"' EXIT
|
|
|
|
echo "Lade llama-swap ${TAG} …"
|
|
curl -fsSL -o "$TMP/s.tgz" "$URL" || die "Download fehlgeschlagen"
|
|
tar xzf "$TMP/s.tgz" -C "$TMP" || die "Entpacken fehlgeschlagen"
|
|
NEW="$(find "$TMP" -type f -name llama-swap | head -1)"
|
|
[ -n "$NEW" ] || die "llama-swap-Binary im Archiv nicht gefunden"
|
|
|
|
# Sicherung der aktuellen (funktionierenden) Binary → Auto-Rollback
|
|
[ -x "$SWAP_BIN" ] && { cp -a "$SWAP_BIN" "$BAK" || die "Backup fehlgeschlagen"; }
|
|
|
|
# llama-swap stoppen (gibt die laufende Binary frei), tauschen, wieder starten
|
|
echo "Stoppe llama-swap für den Binary-Tausch…"
|
|
systemctl stop llama-swap
|
|
if install -m 0755 "$NEW" "$SWAP_BIN" && [ -x "$SWAP_BIN" ]; then
|
|
start_swap
|
|
echo "Router auf ${TAG} aktualisiert — verifiziere Stack…"
|
|
if bash "$SRC_DIR/stack-postcheck.sh"; then
|
|
echo "Router-Update ${TAG} erfolgreich verifiziert."
|
|
exit 0
|
|
fi
|
|
echo "!! Stack-Check fehlgeschlagen — ROLLBACK auf vorherige Version."
|
|
else
|
|
echo "!! Binary-Tausch fehlgeschlagen — ROLLBACK auf vorherige Version."
|
|
fi
|
|
|
|
# Auto-Rollback auf die gesicherte Binary
|
|
systemctl stop llama-swap
|
|
if [ -x "$BAK" ] && install -m 0755 "$BAK" "$SWAP_BIN"; then
|
|
start_swap
|
|
if bash "$SRC_DIR/stack-postcheck.sh"; then
|
|
echo "Rollback erfolgreich: vorherige llama-swap-Version läuft wieder. (Update ${TAG} NICHT angewendet.)"
|
|
exit 1
|
|
fi
|
|
fi
|
|
echo "!!! Rollback fehlgeschlagen — Stack möglicherweise kaputt! Backup liegt unter ${BAK}."
|
|
exit 2
|