fix(api): Rohdaten-Suche in den Hintergrund - /jobs darf nie am NAS haengen
Ampel / ampel (push) Successful in 28s

Bei der Live-Gegenprobe gemessen: Waehrend der CIFS-Mount nach einem
Container-Neustart hochkam, brauchten /jobs und /jobs/<id>/rohdaten jeweils
10,0 Sekunden - genau der CIFS-Timeout. Das Dashboard fragt /jobs alle vier
Sekunden ab; ein schlafendes NAS haette es damit dauerhaft eingefroren.

Dieselbe Loesung wie beim Celery-Ping in /capabilities (v3.15): eine
Hintergrund-Schleife im 30-Sekunden-Takt sieht nach, wo Rohdaten liegen, und
/jobs liest nur noch ab. Kennt der Vorrat einen Job noch nicht (frischer
Fehlschlag), zaehlt der billige lokale Ort auf der Container-Platte - der
antwortet immer sofort.

Live geprueft, nachdem der Mount stand: /jobs 0,022 s, /rohdaten 0,014 s,
can_retry = true, 79.604.951.639 Bytes (74,1 GB) gefunden. Der 80-GB-Rohschnitt
des Commanders ist damit erstmals ueber das UI wieder erreichbar.

Der leere Treffer davor war KEIN Codefehler: der Mount stand in dem Moment
schlicht noch nicht. Beleg nachgeliefert - im Container gemessen findet die
Suche den Pfad in 0,000 s.

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
Hitonabi
2026-07-26 13:15:42 +02:00
parent 108368d583
commit 9fbaed4af8
+50 -2
View File
@@ -68,6 +68,10 @@ async def startup_event():
# Worker-Erreichbarkeit im Hintergrund pingen (siehe _ping_knoten) — sonst
# kostet JEDER Aufruf von /capabilities eine ganze Sekunde.
asyncio.create_task(_ping_schleife())
# Aus demselben Grund im Hintergrund: nachsehen, wo Rohdaten liegen. Ein
# schlafendes NAS lässt os.path.isdir bis zum CIFS-Timeout hängen (hier
# 10 s gemessen) — und /jobs wird alle 4 Sekunden abgefragt.
asyncio.create_task(_rohdaten_schleife())
# Auto-Pre-Scan-Ergebnisse je Laufwerk: das Dashboard zeigt damit sofort,
@@ -310,10 +314,46 @@ async def root():
def _rohdaten_suchen(job_id: str, work_dir: str) -> list:
"""Wo liegen die Roh-MKVs dieses Jobs? (Details in rohdaten.py)"""
"""Wo liegen die Roh-MKVs dieses Jobs? (Details in rohdaten.py)
Kann LANGSAM sein: Ein schlafendes NAS lässt `os.path.isdir` bis zum
CIFS-Timeout hängen — auf dieser VM gemessene 10 Sekunden, während der Mount
nach einem Container-Neustart hochkam. Deshalb nur dort direkt aufrufen, wo
ein Mensch auf genau diese Antwort wartet (/rohdaten, retry-transcode).
Für die Job-Liste gibt es den Vorrat unten.
"""
return rohdaten.suche(job_id, work_dir, os.listdir, os.path.isdir)
# Vorrat für die Job-Liste. Dasselbe Muster wie beim Celery-Ping in
# /capabilities (v3.15): Der Endpunkt wird alle 4 Sekunden vom Dashboard
# abgefragt und darf NIE am Dateisystem hängen. Ein schlafendes NAS hätte das
# Dashboard sonst für 10 Sekunden je Aufruf eingefroren.
_ROHDATEN = {"treffer": {}}
ROHDATEN_INTERVALL_SEKUNDEN = 30
async def _rohdaten_schleife():
"""Hält den Rohdaten-Vorrat frisch. Darf nie sterben."""
while True:
try:
await asyncio.to_thread(_rohdaten_vorrat_auffrischen)
except Exception: # DB/NAS weg → beim nächsten Durchlauf erneut
pass
await asyncio.sleep(ROHDATEN_INTERVALL_SEKUNDEN)
def _rohdaten_vorrat_auffrischen() -> None:
"""Für jeden fehlgeschlagenen Job nachsehen, wo seine Rohdaten liegen."""
work_dir = os.path.normpath((db.get_settings().get("workDir") or "").strip() or "/")
treffer = {}
for zeile in db.list_jobs():
if zeile.get("status") != "failed":
continue
treffer[zeile["id"]] = _rohdaten_suchen(zeile["id"], work_dir)
_ROHDATEN["treffer"] = treffer
def _kann_neu_komprimieren(job: dict, work_dir: str) -> bool:
"""Nur wenn Rohdaten wirklich noch daliegen — der „Neu komprimieren"-Knopf
an einem Job, der nie gerippt hat, war Unsinn (Befund 24.07.).
@@ -325,10 +365,18 @@ def _kann_neu_komprimieren(job: dict, work_dir: str) -> bool:
auf leer. Ergebnis: `can_retry` war `false`, obwohl 79,6 GB intakt dalagen.
Der SAVEPOINT v3.16 behauptete „‚Neu komprimieren' genügt" — den Knopf gab
es nicht. Jetzt wird an allen möglichen Orten nachgesehen.
Gelesen wird aus dem Vorrat, nicht live: Diese Funktion hängt an /jobs, und
das fragt das Dashboard alle 4 Sekunden. Solange der Vorrat einen Job noch
nicht kennt (frischer Fehlschlag), zählt der billige lokale Ort — der liegt
auf der Container-Platte und antwortet immer sofort.
"""
if job.get("status") != "failed":
return False
return bool(_rohdaten_suchen(job["id"], work_dir))
vorrat = _ROHDATEN["treffer"]
if job["id"] in vorrat:
return bool(vorrat[job["id"]])
return os.path.isdir(os.path.join(rohdaten.RAW_STANDARD, job["id"]))
@app.get("/jobs", response_model=List[Job])