Open WebUI mit Ollama: Lokale KI für die ganze Familie

Was Open WebUI ist

Open WebUI ist eine freie Weboberfläche für lokale und kompatible KI-Dienste. Sie läuft auf deinem eigenen Rechner und wird im Browser bedient. Sie verbindet sich mit Ollama, kann aber auch mit anderen Schnittstellen im OpenAI-Format sprechen. Zu den Funktionen zählen Chatverlauf mit Ordnern, mehrere Modelle gleichzeitig, Systemanweisungen, Hochladen von Dokumenten für Fragen zum Inhalt und eine Benutzerverwaltung mit Rollen. Wer Ollama zunächst einrichten möchte, findet die Schritte in Ollama oder LM Studio: Lokale KI einrichten.

Voraussetzungen

• Ollama: Installiert, gestartet und mit einem Modell. Der Dienst lauscht standardmäßig auf Port 11434.
• Docker Desktop: Für die einfachste Installation. Unter Windows nutzt Docker die WSL-2-Technik, die Einrichtung steht in WSL unter Windows 11.
• Arbeitsspeicher: Das Modell braucht den Großteil. Hinweise zur Hardware: PC für lokale KI.
• Speicherplatz: Container und Modelle brauchen je nach Auswahl mehrere Gigabyte bis einige zehn Gigabyte.
• Virtualisierung: Muss im BIOS aktiv sein, sonst startet Docker nicht.

Installation mit Docker

1. Installiere Docker Desktop, starte den Rechner neu und warte, bis Docker läuft.
2. Öffne die Eingabeaufforderung oder PowerShell.
3. Starte den Container mit dem Befehl aus der offiziellen Anleitung des Projekts. Er legt den Port 3000 für den Browser fest, bindet ein Datenvolumen ein und erlaubt dem Container den Zugriff auf Ollama auf dem Host.
4. Warte, bis das Abbild heruntergeladen ist. Das kann einige Minuten dauern.
5. Öffne im Browser die Adresse „http://localhost:3000“.

Der typische Befehl enthält diese Bestandteile: docker run -d -p 3000:8080 veröffentlicht den Port, --add-host=host.docker.internal:host-gateway macht den Host aus dem Container erreichbar, -v open-webui:/app/backend/data legt einen dauerhaften Datenspeicher an, --restart always startet den Container nach einem Neustart wieder, und --name open-webui benennt ihn. Als Abbild dient ghcr.io/open-webui/open-webui:main. Prüfe vor dem Einsatz die aktuelle Schreibweise in der Dokumentation des Projekts, denn Optionen und Namen ändern sich gelegentlich.

Erster Start und Administrator

Beim ersten Aufruf legst du ein Konto an. Das erste Konto wird automatisch zum Administrator. Wähle Name, E-Mail-Adresse und ein starkes Passwort, die E-Mail-Adresse bleibt lokal. Danach siehst du die Chat-Oberfläche. Oben links wählst du das Modell aus. Wenn die Liste leer bleibt, findet Open WebUI Ollama nicht. Prüfe in den Einstellungen unter „Verbindungen“, ob die Ollama-Adresse stimmt, bei Docker meist „http://host.docker.internal:11434“. Läuft Ollama nicht, starte den Dienst oder das Programm.

Modelle auswählen und laden

Modelle lädst du entweder wie gewohnt über Ollama oder direkt in Open WebUI im Bereich der Modellverwaltung. Beginne klein: Ein Modell mit wenigen Milliarden Parametern läuft auch ohne starke Grafikkarte, antwortet aber einfacher. Größere Modelle sind klüger, brauchen jedoch deutlich mehr Arbeits- oder Grafikspeicher. Die Quantisierung entscheidet, wie viel Speicher ein Modell belegt, siehe GGUF-Quantisierung erklärt. Als Faustregel gilt: Das Modell sollte komplett in den Grafikspeicher passen, sonst wird es spürbar langsamer. Lege für verschiedene Zwecke eigene Voreinstellungen an, zum Beispiel einen Assistenten für Texte und einen für Code, jeweils mit eigener Systemanweisung.

Dokumente einbinden

Open WebUI kann Dokumente hochladen und Fragen dazu beantworten. Dahinter steckt das Verfahren, Texte in Abschnitte zu zerlegen, passende Abschnitte zu suchen und dem Modell als Kontext zu geben. Die Qualität hängt vom Modell, der Abschnittsgröße und dem verwendeten Einbettungsmodell ab. Für größere Dokumentensammlungen lohnt sich eine eigene Wissenssammlung, die mehrere Dateien bündelt. Hinweise zum Prinzip und zu Alternativen stehen in Eigene Dokumente lokal mit KI durchsuchen. Beachte, dass die KI Antworten erfinden kann. Prüfe Zitate und Zahlen in der Originaldatei, besonders bei wichtigen Dokumenten.

Mehrere Benutzer verwalten

• Der Administrator legt im Bereich „Admin“ Benutzer an oder genehmigt Registrierungen.
• Neue Konten sind standardmäßig „ausstehend“ und müssen bestätigt werden, solange die Registrierung offen ist. Schalte die offene Registrierung nach dem Anlegen deiner Familienmitglieder aus.
• Rollen steuern, wer Modelle verwalten oder Einstellungen ändern darf.
• Der Chatverlauf gehört jedem Benutzer allein, Administratoren sehen ihn nicht automatisch. Informiere dennoch alle Nutzer, dass Eingaben auf deinem Gerät gespeichert werden.
• Lege für Kinder ein eigenes Konto mit einem passenden Modell und einer klaren Systemanweisung an.

Zugriff aus dem Heimnetz

Andere Geräte erreichen Open WebUI über die Adresse deines PCs und den Port 3000, zum Beispiel „http://192.168.178.20:3000“. Die Adresse findest du mit dem Befehl ipconfig, siehe IP-Adresse finden. Damit sie sich nicht ändert, vergib dem PC eine feste Adresse oder eine Reservierung im Router, siehe Statische IP-Adresse vergeben. Erlaube den Port in der Windows-Firewall für das private Netzwerk, wie in Windows-Firewall prüfen beschrieben. Der PC muss laufen, damit die KI erreichbar ist.

Sicherheit

• Nicht ins Internet stellen: Gib den Port nicht per Router-Freigabe nach außen. Für den Zugriff von unterwegs nutze ein VPN, siehe VPN einrichten.
• Starke Passwörter: Jedes Konto bekommt ein eigenes.
• Registrierung schließen: Sobald alle Konten angelegt sind.
• Aktuell bleiben: Aktualisiere das Abbild regelmäßig, weil Weboberflächen Angriffsziele sind.
• Datenschutz: Lokal heißt nicht anonym. Chats liegen im Datenvolumen. Wer den PC nutzt, kann sie sehen. Aktiviere bei Bedarf eine Festplattenverschlüsselung.
• Externe Dienste: Wenn du Anbieter-Schnittstellen einträgst, gehen Eingaben dorthin. Prüfe, ob das gewollt ist, siehe KI-Chatbots und Datenschutz.

Updates und Datensicherung

Zum Aktualisieren stoppst du den Container, entfernst ihn, lädst das neue Abbild und startest ihn mit demselben Befehl und demselben Datenvolumen erneut. Die Daten bleiben erhalten, weil sie im Volumen liegen, nicht im Container. Sichere das Volumen vor größeren Updates. Das gelingt mit einem Export oder einer Kopie in einen Ordner, die genaue Methode steht in der Dokumentation von Docker. Sichere auch die Modelle nicht extra, sie lassen sich neu laden. Eine allgemeine Strategie beschreibt Backup-Strategie für den PC.

Leistung und Hardware

Die Oberfläche selbst braucht wenig Leistung. Entscheidend ist das Modell. Mehrere Nutzer gleichzeitig verlängern die Wartezeit, weil sich alle denselben Grafikchip teilen. Eine Anfrage nach der anderen ist normal. Für Familien reichen oft kleine bis mittlere Modelle. Stromkosten fallen nur an, wenn der PC läuft. Wer die KI selten nutzt, fährt ihn nach Gebrauch herunter. Die Kosten im Vergleich zu Abos behandelt Lokale KI auf dem PC: Kosten sparen.

Typische Probleme

• Modellliste leer: Verbindung zu Ollama prüfen, Ollama starten, Adresse in den Verbindungen korrigieren.
• Seite nicht erreichbar: Container läuft nicht oder Docker ist nicht gestartet. Prüfe den Status in Docker Desktop.
• Von anderen Geräten nicht erreichbar: Firewall-Regel für Port 3000, Adresse des PCs prüfen.
• Antworten sehr langsam: Modell zu groß für den Grafikspeicher. Kleineres Modell oder stärkere Quantisierung.
• Dokument wird ignoriert: Die Datei ist ein reiner Scan ohne Text. Vorher Texterkennung durchführen.
• Nach Neustart ist alles weg: Container ohne Datenvolumen gestartet. Immer mit Volumen starten.

Häufige Fragen

Kostet Open WebUI etwas?

Die Software selbst ist frei. Kosten entstehen durch Strom und Hardware.

Brauche ich Internet?

Für Installation und Modell-Downloads ja, im Betrieb läuft alles lokal.

Kann ich es auch ohne Grafikkarte nutzen?

Ja, mit kleinen Modellen und Geduld. Die Antworten kommen dann langsamer.

Ist das eine Alternative zu bezahlten Chatbots?

Für viele Alltagsaufgaben ja, für sehr anspruchsvolle Aufgaben bleiben große Cloud-Modelle oft überlegen.