Holt Prüfstand-Tickets aus dem Kanban-Board, testet neue LLM-Modelle auf Kompatibilität und Systemressourcen und meldet die Ergebnisse via Telegram.
1.0.0
MC2
linux
hermes
tags
pruefstand
evaluation
models
mc2
Prüfstand (Model Evaluation)
Der Prüfstand-Skill dient dazu, neue LLMs oder Tooling-Upgrades (oft aus dem Trend-Radar stammend) autonom auf der Box zu evaluieren, bevor sie ins Live-System übernommen werden.
Ablauf
Ticket Fetching: Liest das nächste anstehende Ticket in der Kanban Ideen-Queue, welches als "Prüfstand" getaggt ist.
Download & Setup: Lädt das beschriebene Modell (z.B. via huggingface-cli oder llama.cpp) in ein isoliertes Test-Verzeichnis.
Smoke-Tests: Führt vordefinierte Benchmarks oder Prompts gegen das Modell aus und überwacht den RAM/VRAM-Bedarf.
Bewertung: Wenn das Modell die Kriterien erfüllt (schnell genug, kein OOM), wird es als "Bestanden" markiert und ein Integrations-Vorschlag erstellt.
Report: Der Commander erhält einen Telegram-Bericht mit den Metriken und der Entscheidung.