Deploy-Robustheit: Selbst-Reset-Guard + TimeoutStopSec=5 (Lehren P1-Deploy 15.07.)
1) deploy.sh fuehrt sich nach dem git reset einmal frisch neu aus (exec-Guard, Env-Marke MC2_DEPLOY_REEXEC): der Reset ersetzt die laufende Datei, bash las einen alt/neu-Zeilen-Mix — beim P1-Deploy fielen so daemon-reload und der mc2-gateway-Start aus (Lucy 502, Heilung von Hand). 2) mc2-gateway.service TimeoutStopSec=5: uvicorn wartete beim Stop auf offene LLM-Streams (default 90 s SIGKILL-Fenster ohne Listener = 502-Fenster bei jedem Deploy-Restart, live gemessen 14:29->14:31). Stateless Proxy, Clients retrien — hart nach 5 s ist verlustarm. UMBAUPLAN: Annahme-Hinweis fuer P2 (einmal deploy.sh von Hand nachlaufen lassen, weil der Guard erst MIT diesem Deploy an Bord kommt). Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
@@ -21,6 +21,11 @@ Environment=MC_CONFIG_PATH=/etc/llama-swap/config.yaml
|
||||
Environment=MC_MODELS_DIR=/srv/models
|
||||
Restart=always
|
||||
RestartSec=2
|
||||
# Stoppen darf nicht warten: der Gateway hält minutenlange LLM-Streams offen — uvicorns
|
||||
# „Waiting for connections to close" + default 90 s TimeoutStop machten jeden Restart zum
|
||||
# 502-Fenster (15.07. live gemessen, 14:29→14:31). Stateless Proxy → nach 5 s hart beenden
|
||||
# ist verlustarm; Clients (Hermes api_max_retries=3) wiederholen abgerissene Anfragen.
|
||||
TimeoutStopSec=5
|
||||
|
||||
[Install]
|
||||
WantedBy=default.target
|
||||
|
||||
Reference in New Issue
Block a user