import { $ } from "../core/ui.js"; let currentUrl = "http://localhost:8000"; function render() { const c = document.querySelector(".view[data-view='guides']"); if (!c) return; c.innerHTML = `
Nutze llama-swap als lokalen OpenAI-kompatiblen Provider in Cursor oder Cline.
Füge llama-swap in OpenWebUI als externe OpenAI-Verbindung hinzu.
OpenWebUI zieht sich danach automatisch alle geladenen Modelle.
Nutze das offizielle openai Package, um mit llama-swap zu sprechen.
from openai import OpenAI
client = OpenAI(
base_url="${currentUrl}/v1",
api_key="Dein_Token" # Optional, falls in Mission Control konfiguriert
)
response = client.chat.completions.create(
model="coder", # Alias aus deinem Cookbook
messages=[{"role": "user", "content": "Hallo Modell!"}]
)
print(response.choices[0].message.content)
Führe direkte HTTP POST Requests gegen den Endpunkt aus.
{
"model": "coder",
"messages": [
{ "role": "user", "content": "Erkläre mir Quantisierung." }
]
}