Lokaler Coding-Assistent: VS Code, Ollama und Continue einrichten

KI-Assistenten beim Programmieren sparen Zeit, aber viele Entwickler wollen ihren Quellcode nicht an einen Cloud-Dienst schicken, oder sie scheuen das Monatsabo. Eine Alternative läuft komplett auf dem eigenen PC: Ollama führt das Modell aus, eine Erweiterung wie Continue bindet es in Visual Studio Code ein. Dieser Ratgeber zeigt den Aufbau, realistische Hardware-Anforderungen und die Grenzen. Die Grundlage ist ein Setup-Guide von SitePoint, veröffentlicht am 11. März 2026 und am 3. Oktober 2026 aktualisiert. Er wurde laut Text mit Continue 0.9.x und Ollama 0.3.x geprüft. Beide Versionen sind inzwischen veraltet, Modellnamen und Konfigurationsdatei können sich geändert haben. Leistungsangaben sind laut Quelle Community-Benchmarks von Ende 2024. Wir haben das Setup nicht selbst ausgeführt. Eigene Einschätzungen kennzeichnen wir. Wie Ollama grundsätzlich installiert wird, zeigt Ollama oder LM Studio einrichten.

Die Bausteine

Einrichtung in fünf Schritten

1. Ollama installieren (macOS, Windows, Linux), den Dienst starten und prüfen, ob er unter localhost:11434 antwortet.
2. Die beiden Modelle laden: qwen2.5-coder:7b für den Chat und qwen2.5-coder:1.5b für die Autovervollständigung.
3. Die Continue-Erweiterung aus dem VS-Code-Marketplace installieren.
4. Die Konfigurationsdatei von Continue bearbeiten. Sie liegt laut Quelle unter ~/.continue/config.json beziehungsweise %USERPROFILE%\.continue\config.json. Dort verweist du beide Modelle auf den Ollama-Endpunkt. Der Guide schaltet dabei auch die anonyme Telemetrie ab.
5. Chat und Autovervollständigung testen. Bei Problemen hilft laut Quelle der Befehl ollama list, die JSON-Datei lässt sich mit einem JSON-Prüfer validieren.

Welches Modell passt zu deinem PC?

Der Guide ordnet die Größen so ein:

Als Minimum nennt die Quelle 8 GB RAM, empfohlen sind 16 GB und eine Grafikkarte mit mindestens 6 GB VRAM. Genannt wird eine NVIDIA RTX 3060 oder neuer. Unter Linux brauchen Grafikkarten CUDA 12.x (NVIDIA) oder ROCm 5.x (AMD), sonst fällt Ollama auf die CPU zurück. Auf reinen Prozessor-Rechnern kann die Autovervollständigung laut Quelle so langsam sein, dass sie beim Tippen stört. Apple-Silicon-Macs eignen sich dank gemeinsamem Speicher gut. Wie du VRAM und Modellgröße abstimmst, erklärt PC für lokale KI. Wenn du ohnehin einen Entwickler-PC planst, hilft PC zum Programmieren.

Wie gut ist ein lokales 7B-Modell?

Der Guide ist ehrlich: Das 7B-Modell liefert bei Aufgaben auf Funktionsebene innerhalb einer Datei Ergebnisse nahe an GitHub Copilot, braucht aber bei mehrschrittigem Denken mehr Korrektur. Cloud-Modelle führen laut Quelle weiterhin bei komplexen Aufgaben über mehrere Dateien, sehr großen Kontextfenstern (über 100.000 Token) und bei neuen APIs und Frameworks. Rechne also damit, dass du Ergebnisse prüfst und Fehler korrigierst. Für Boilerplate, Tests, Erklärungen und kleine Umbauten reicht es oft (eigene Einschätzung).

Kosten und Datenschutz

Laut Quelle fallen bei lokaler Nutzung keine Abogebühren an. Der Guide stellt dem 10 bis 19 US-Dollar pro Monat für GitHub Copilot gegenüber und schätzt die Stromkosten auf etwa 2 bis 9 US-Dollar im Monat, je nach Hardware. Rechne die Zahlen für deine Situation nach, siehe Stromkosten eines Gaming-PCs und Lokale KI auf dem PC. Beim Datenschutz gilt: Wenn alle Komponenten lokal laufen und keine Cloud-Modelle eingestellt sind, verlässt der Code den Rechner nicht (eigene Einschätzung auf Basis der Funktionsweise). Prüfe die Einstellungen der Erweiterung auf Telemetrie und Online-Dienste. Der Guide schaltet die anonyme Telemetrie von Continue ab. Allgemeine Fragen zum Umgang mit Chatbots behandelt KI-Chatbots und Datenschutz.

Praktische Tipps für den Alltag

• Nutze zwei Modelle: ein kleines für schnelle Vorschläge, ein größeres für Fragen im Chat (so macht es der Guide).
• Gib dem Modell Kontext: relevante Datei markieren, Fehlermeldung einfügen, gewünschtes Ergebnis beschreiben (eigene Einschätzung).
• Führe generierten Code nie ungeprüft aus und lass Tests laufen.
• Gib keine Passwörter, Schlüssel oder Kundendaten in den Chat, auch nicht lokal (eigene Empfehlung).
• Beobachte Temperatur und Lüfterlärm, denn lange Anfragen belasten die Grafikkarte.
• Aktualisiere Ollama, Erweiterung und Modelle, aber nicht mitten in einem Projekt (eigene Einschätzung).

Typische Probleme

Für wen lohnt sich der Aufwand?

Ein lokaler Assistent passt zu dir, wenn Code vertraulich ist, wenn du offline arbeiten willst oder wenn du die laufenden Kosten eines Abos vermeiden möchtest (eigene Einschätzung). Weniger geeignet ist er, wenn du vor allem große Umbauten über viele Dateien hinweg brauchst oder immer die neuesten Frameworks nutzt, denn dort führen laut Quelle Cloud-Modelle. Viele Entwickler kombinieren beides: lokal für Routine und Vertrauliches, Cloud für schwierige Fälle. Probiere zuerst das kleine Setup aus, bevor du Hardware kaufst. Ein 7-B-Modell läuft auf vielen vorhandenen PCs, und du siehst schnell, ob dir die Qualität reicht. Erst wenn sich der Nutzen zeigt, lohnt ein Upgrade der Grafikkarte, siehe 16 oder 24 GB VRAM.

Häufige Fragen

Ist ein lokaler Assistent so gut wie Copilot?

Laut SitePoint liegt das 7B-Modell bei Aufgaben innerhalb einer Datei nahe an Copilot. Bei komplexen Aufgaben über mehrere Dateien führen Cloud-Modelle.

Welche Hardware brauche ich mindestens?

Die Quelle nennt 8 GB RAM für das kleine 1,5-B-Modell. Für das 7-B-Modell sind 16 GB RAM und eine Grafikkarte mit 6 bis 8 GB VRAM empfohlen.

Kostet die Erweiterung Geld?

Continue ist laut Quelle kostenlos und Open Source (Apache 2.0).

Bleibt mein Code lokal?

Bei rein lokalem Betrieb ja. Prüfe Telemetrie und Cloud-Einstellungen.