// models.js — "Modelle"-Ansicht (v3): Schnelltest-Chat, Modell-Tabelle, Kontext-Konfiguration. import { api } from "../core/api.js"; import { $, badge, esc, toast, confirmModal, infoDot } from "../core/ui.js"; const CTX_HELP = "Kontext = das Kurzzeitgedächtnis des Modells. Größer = merkt sich mehr (längere Dateien/Chats), braucht aber mehr Speicher und wird etwas langsamer."; let ALL = []; function refreshSoon() { document.dispatchEvent(new Event("mc:refresh")); } function capTags(caps) { if (!caps?.length) return "–"; return caps.map(c => c === "Code" ? `Code` : c === "Bild" ? `Bild` : `Text`).join(" "); } function details(meta) { if (!meta) return "–"; const q = meta.quant || "?"; const c = meta.ctx ? Math.round(meta.ctx / 1024) + "K" : "?"; const s = meta.size_bytes ? (meta.size_bytes / 1024 ** 3).toFixed(1) + " GB" : "?"; return `${esc(q)} · ${c} · ${s}`; } function mount() { $("#m-head").innerHTML = `

Modelle

Deine konfigurierten Modelle — testen, Kontext anpassen oder aus dem Speicher werfen.
`; $("#m-chat").innerHTML = `

Schnelltest

Schreib eine Nachricht — das gewählte Modell wird automatisch geweckt.
`; $("#m-table").innerHTML = `

Modelle & Ports

Modelle laden automatisch, sobald eine Anfrage kommt — du musst nichts manuell starten.
ModellKannDetailsStatusPortAktionen
`; $("#chat-btn").addEventListener("click", sendChat); $("#cfg-close").addEventListener("click", () => $("#cfg-modal").style.display = "none"); $("#cfg-modal").addEventListener("click", e => { if (e.target.id === "cfg-modal") $("#cfg-modal").style.display = "none"; }); $("#cfg-save").addEventListener("click", saveConfig); } function onStatus(s) { ALL = s?.models || []; const tb = $("#models"); if (!tb) return; $("#models-empty").style.display = ALL.length ? "none" : "flex"; $("#m-count").textContent = ALL.length ? ALL.length + " konfiguriert" : ""; const sel = $("#chat-model"), cur = sel.value; sel.innerHTML = ""; tb.innerHTML = ALL.map(m => { const fn = m.meta?.filename ? `
${esc(m.meta.filename)}
` : ""; return ` ${esc(m.name)}${fn} ${capTags(m.meta?.caps)} ${details(m.meta)} ${badge(m.state)} ${m.port ?? "auto"} `; }).join(""); for (const m of ALL) sel.insertAdjacentHTML("beforeend", ``); if (cur) sel.value = cur; tb.querySelectorAll("[data-unload]").forEach(b => b.addEventListener("click", () => unloadOne(b.getAttribute("data-unload")))); tb.querySelectorAll("[data-cfg]").forEach(b => b.addEventListener("click", () => openConfig(b.getAttribute("data-cfg")))); } function openConfig(alias) { const m = ALL.find(x => x.name === alias); if (!m) return; $("#cfg-model-name").textContent = m.name; $("#cfg-ctx").value = m.meta?.ctx || 8192; const opt = m.meta?.optimal_ctx, rec = $("#cfg-rec"); if (opt) { const cur = m.meta?.ctx || 0, peak = m.meta?.peak_ram_gb, peakOpt = m.meta?.peak_ram_optimal_gb; $("#cfg-rec-note").innerHTML = `Optimal ~${Math.round(opt / 1024)}k → ~${peakOpt} GB Spitzenbedarf.
` + `Aktuell ~${Math.round(cur / 1024)}k → ~${peak} GB.`; $("#cfg-rec-apply").onclick = () => { $("#cfg-ctx").value = opt; }; rec.style.display = "flex"; } else { rec.style.display = "none"; } $("#cfg-modal").style.display = "flex"; } async function saveConfig() { const alias = $("#cfg-model-name").textContent, ctx = parseInt($("#cfg-ctx").value) || 8192; $("#cfg-save").disabled = true; try { await api("/api/update_model", { method: "POST", body: JSON.stringify({ alias, ctx }) }); toast("Gespeichert — aktiv beim nächsten Modell-Start."); $("#cfg-modal").style.display = "none"; refreshSoon(); } catch (e) { toast(e.message, true); } $("#cfg-save").disabled = false; } async function unloadOne(m) { if (!await confirmModal({ title: `„${m}" entladen?`, body: "Das Modell wird aus dem Grafikspeicher geworfen und lädt beim nächsten Aufruf automatisch neu.", confirmLabel: "Entladen" })) return; try { await api("/api/unload?model=" + encodeURIComponent(m), { method: "POST" }); toast("Entladen: " + m); setTimeout(refreshSoon, 600); } catch (e) { toast(e.message, true); } } async function sendChat() { const model = $("#chat-model").value, message = $("#chat-msg").value.trim(); if (!model) return toast("Kein Modell vorhanden.", true); if (!message) return; const btn = $("#chat-btn"); btn.disabled = true; btn.textContent = "…"; const box = $("#chat-reply"); box.style.display = "block"; box.textContent = "(wecke Modell, kann beim Laden kurz dauern…)"; try { const r = await api("/api/chat", { method: "POST", body: JSON.stringify({ model, message }) }); box.textContent = r.reply; } catch (e) { box.textContent = "Fehler: " + e.message; } btn.disabled = false; btn.textContent = "Senden"; refreshSoon(); } export default { id: "models", mount, onStatus };