Feat: idiotensichere Erweiterte Ansicht - Fit-Ampel (OOM-Gate) + Rollen-Uebernahme-Warnung
Manueller HF-Install hatte zwei scharfe Kanten: - kein Fit/OOM-Schutz: zu grosses Modell stuerzte erst beim Laden ab - stiller Rollen-Diebstahl: exklusiver Alias wanderte kommentarlos weg Backend: /api/fit leitet params_b jetzt aus KATALOG (echte Metadaten, MoE-bewusst) oder Namens-Schaetzung ab (params_b<=0) -> Fit-Vorschau fuer beliebige HF-Repos. Frontend (AddModel): Hardware-Fit-Ampel (perfect/marginal/OOM) mit ~params/req_gb/tps nach 'Quants laden'; OOM-Gate (zweiter, roter Klick noetig); Warnung welches Modell die gewaehlte Rolle aktuell haelt und sie verliert. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
@@ -73,6 +73,13 @@ export interface Fit {
|
||||
tps: number
|
||||
}
|
||||
|
||||
export interface FitResp {
|
||||
params_b: number
|
||||
fit: Fit
|
||||
optimal_ctx: number
|
||||
sys_ram_gb: number
|
||||
}
|
||||
|
||||
export interface ModelInfo {
|
||||
name: string
|
||||
role: string | null
|
||||
|
||||
Reference in New Issue
Block a user