Hitonabi
42f0497253
Ursache des fehlgeschlagenen Engine-Updates: die allerneueste llama.cpp-Release traegt oft noch KEINE CI-Binaries (0 Assets). update-engine.sh lud aber stur von releases/latest → 404 „Download fehlgeschlagen". Fix: - update-engine.sh: nimmt die neueste Release, die wirklich ein ubuntu-vulkan-x64.tar.gz traegt, und nutzt dessen echte browser_download_url (robust gegen Namensaenderungen). - maintenance.py: _engine_update_available + engine_update_details pruefen jetzt ebenfalls gegen die neueste ASSET-tragende Release → das Badge luegt nicht mehr („verfuegbar", aber Download 404). Verifiziert: aufgeloeste URL liefert HTTP 200. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
84 lines
4.0 KiB
Bash
84 lines
4.0 KiB
Bash
#!/usr/bin/env bash
|
|
# Aktualisiert den Vulkan-llama.cpp-Build (ggml-org) auf den neuesten Release.
|
|
# Wird vom MC2-„Engine Update"-Button via `sudo bash …` als ROOT aufgerufen (kein internes sudo).
|
|
#
|
|
# Wichtig: llama-swap wird VOR dem Datei-Austausch gestoppt — sonst ist die laufende llama-server-
|
|
# Binary „Text file busy" und die mmap'ten .so-Libs dürfen nicht unter dem laufenden Prozess
|
|
# getauscht werden. Danach Stack-Check (echte Inferenz); bei Fehler Auto-Rollback.
|
|
#
|
|
# Exit 0 = neuer Build verifiziert · 1 = fehlgeschlagen, Rollback ok (alter Build läuft)
|
|
# · 2 = Update UND Rollback fehlgeschlagen (Stack evtl. kaputt — bitte prüfen)
|
|
set -uo pipefail # bewusst KEIN -e: bei Fehlern kontrolliert zurückrollen statt hart abbrechen
|
|
|
|
VULKAN_DIR=/opt/llamacpp-vulkan
|
|
BAK_DIR=/opt/llamacpp-vulkan.bak # „letzter funktionierender Build" für Auto-Rollback
|
|
SRC_DIR="$(cd "$(dirname "$0")" && pwd)"
|
|
PIN_BUILD="${MC_ENGINE_BUILD:-}" # leer = neuester Release
|
|
|
|
die(){ echo "$1" >&2; exit 1; }
|
|
start_swap(){ systemctl start llama-swap || systemctl restart llama-swap; }
|
|
|
|
# Inhalte von $1 nach $VULKAN_DIR spiegeln (Dir vorher leeren → sauberer Austausch).
|
|
replace_dir(){
|
|
rm -rf "${VULKAN_DIR:?}" && mkdir -p "$VULKAN_DIR" || return 1
|
|
cp -a "$1/." "$VULKAN_DIR"/ || return 1
|
|
ln -sfn "$VULKAN_DIR/llama-server" /usr/local/bin/llama-server
|
|
[ -x "$VULKAN_DIR/llama-server" ]
|
|
}
|
|
|
|
# 1. Release ermitteln + laden (vor jedem Eingriff am laufenden System).
|
|
# ACHTUNG: Die ALLERNEUESTE Release traegt oft noch keine CI-Binaries (0 Assets) → ihr
|
|
# Download-Link 404t. Darum NICHT stumpf releases/latest nehmen, sondern die neueste
|
|
# Release, die WIRKLICH ein `ubuntu-vulkan-x64.tar.gz`-Asset hat, und dessen echte
|
|
# browser_download_url direkt verwenden (robust auch gegen kuenftige Namensaenderungen).
|
|
ASSET_RX='ubuntu-vulkan-x64\.tar\.gz$'
|
|
if [ -n "$PIN_BUILD" ]; then
|
|
TAG="$PIN_BUILD"
|
|
URL="https://github.com/ggml-org/llama.cpp/releases/download/${TAG}/llama-${TAG}-bin-ubuntu-vulkan-x64.tar.gz"
|
|
else
|
|
REL_JSON="$(curl -s 'https://api.github.com/repos/ggml-org/llama.cpp/releases?per_page=15')"
|
|
URL="$(printf '%s' "$REL_JSON" | jq -r --arg rx "$ASSET_RX" '[.[] | .assets[]? | select(.name|test($rx))][0].browser_download_url // empty')"
|
|
TAG="$(printf '%s' "$REL_JSON" | jq -r --arg rx "$ASSET_RX" '[.[] | select(any(.assets[]?; .name|test($rx)))][0].tag_name // empty')"
|
|
fi
|
|
[ -n "$URL" ] && [ "$URL" != "null" ] || die "Kein Vulkan-x64-Build in den letzten Releases gefunden (404-Schutz)"
|
|
TMP="$(mktemp -d)"
|
|
trap 'rm -rf "$TMP"' EXIT
|
|
|
|
echo "Lade Engine ${TAG} …"
|
|
curl -fsSL -o "$TMP/v.tgz" "$URL" || die "Download fehlgeschlagen"
|
|
tar xzf "$TMP/v.tgz" -C "$TMP" || die "Entpacken fehlgeschlagen"
|
|
NEWDIR="$(echo "$TMP"/llama-*/)" # Tarball entpackt nach llama-<tag>/
|
|
[ -x "${NEWDIR}llama-server" ] || die "llama-server im Archiv nicht gefunden (${NEWDIR})"
|
|
|
|
# 2. Aktuellen (funktionierenden) Build sichern → Auto-Rollback
|
|
echo "Sichere aktuellen Build → ${BAK_DIR}"
|
|
rm -rf "$BAK_DIR"
|
|
cp -a "$VULKAN_DIR" "$BAK_DIR" || die "Backup fehlgeschlagen"
|
|
|
|
# 3. llama-swap stoppen (gibt Binary/Libs frei), austauschen, wieder starten
|
|
echo "Stoppe llama-swap für den Austausch…"
|
|
systemctl stop llama-swap
|
|
if replace_dir "${NEWDIR%/}"; then
|
|
start_swap
|
|
echo "Engine auf ${TAG} aktualisiert — verifiziere Stack…"
|
|
if bash "$SRC_DIR/stack-postcheck.sh"; then
|
|
echo "Engine-Update ${TAG} erfolgreich verifiziert."
|
|
exit 0
|
|
fi
|
|
echo "!! Stack-Check fehlgeschlagen — ROLLBACK auf vorherigen Build."
|
|
else
|
|
echo "!! Datei-Austausch fehlgeschlagen — ROLLBACK auf vorherigen Build."
|
|
fi
|
|
|
|
# 4. Auto-Rollback auf den gesicherten Build
|
|
systemctl stop llama-swap
|
|
if replace_dir "$BAK_DIR"; then
|
|
start_swap
|
|
if bash "$SRC_DIR/stack-postcheck.sh"; then
|
|
echo "Rollback erfolgreich: vorheriger Build läuft wieder. (Update ${TAG} NICHT angewendet.)"
|
|
exit 1
|
|
fi
|
|
fi
|
|
echo "!!! Rollback fehlgeschlagen — Stack möglicherweise kaputt! Backup liegt unter ${BAK_DIR}."
|
|
exit 2
|