AI-Designers
Warum Quellcode das Haus nicht verlassen sollte
Ein Entwickler tippt eine Funktion, die KI schlägt die nächsten drei Zeilen vor, er drückt Tab. Praktisch. Nur: Bei den meisten Cloud-Assistenten wandert dafür der umgebende Code an einen fremden Server. Für eine Bank, einen Rüstungszulieferer oder ein Pharmaunternehmen ist genau das der Knackpunkt. Quellcode ist Betriebsgeheimnis, oft vertraglich geschützt, manchmal exportkontrolliert.
GitHub Copilot läuft im Kern als Cloud-Dienst. GitHub sichert für die Business- und Enterprise-Tarife vertraglich zu, Kundencode nicht fürs Training zu verwenden – trotzdem verlässt der Code die eigene Infrastruktur. In streng regulierten oder air-gapped Umgebungen reicht eine Vertragsklausel nicht. Da zählt, wo die Bytes physisch liegen. Genau hier setzen selbst gehostete Assistenten an: Modell, Index und Vervollständigung laufen auf Ihrer eigenen Hardware, hinter Ihrer Firewall.
Was ein selbst gehosteter Assistent wirklich leistet
Autovervollständigung ist nur die sichtbare Spitze. Darunter arbeitet meist ein Modell mit sogenanntem Fill-in-the-Middle: Es sieht den Code vor und nach der Cursorposition und füllt die Lücke – nicht nur die Fortsetzung am Zeilenende. Das macht Vorschläge im bestehenden Code brauchbar, statt nur beim Schreiben von vorne.
Dazu kommt ein Chat, der den Kontext des offenen Projekts kennt. Der Entwickler markiert eine Funktion und fragt: „Warum wirft das eine NullPointerException?“ Ein guter Assistent zieht die relevanten Dateien aus dem Repository-Index heran und antwortet mit Bezug auf den konkreten Code, nicht mit Lehrbuchprosa. Repository-Kontext über eine semantische Suche einzubinden, trennt die ernstzunehmenden Werkzeuge von der Spielerei.
Und es geht über das Tippen hinaus: Testgerüste erzeugen, Commit-Nachrichten formulieren, Legacy-Code erklären, den ein Mitarbeiter vor acht Jahren hinterlassen hat. Gerade die Alt-Code-Erklärung spart in der Praxis mehr Zeit als jede Autovervollständigung.

Die Werkzeuge: Tabby, Continue.dev und Cody
Drei Namen tauchen in fast jeder ernsthaften Evaluation auf. Tabby ist ein selbst gehosteter Server, der Autovervollständigung und einen Repository-Index mitbringt und sich in VS Code sowie die JetBrains-IDEs einklinkt. Viele Teams nennen ihn als beste reine On-Premise-Lösung, weil Server und Indexierung aus einem Guss kommen und der Betrieb überschaubar bleibt.
Continue.dev geht den modularen Weg. Das Plugin sitzt in der IDE, das Modell bedienen Sie über einen eigenen Backend-Dienst – häufig Ollama für den Einstieg oder vLLM für den produktiven Durchsatz. Der Reiz liegt in der Austauschbarkeit: Sie entscheiden, welches Modell für Vervollständigung läuft und welches für den Chat, und Sie wechseln es, ohne das Plugin anzufassen.
Sourcegraph Cody zielt auf große Codebasen. Die Stärke ist die Code-Suche über Millionen Zeilen hinweg. Der Preis dafür: Der Self-Hosted-Betrieb verlangt eine vollständige Sourcegraph-Installation plus ein lokales Modell. Für einen Mittelständler mit drei Repositories ist das zu viel Apparat, für einen Konzern mit Monorepo genau richtig.
Welche Modelle hinter der Vervollständigung stecken
Die Qualität steht und fällt mit dem Modell. Für Code haben sich spezialisierte offene Modelle durchgesetzt, die auf Milliarden Zeilen Quelltext trainiert wurden. Qwen2.5-Coder deckt ein breites Spektrum von Programmiersprachen ab und gibt es in Größen vom kompakten 1,5-Milliarden-Parameter-Modell bis zu 32 Milliarden. Codestral von Mistral ist explizit auf Fill-in-the-Middle und niedrige Latenz ausgelegt. DeepSeek-Coder liefert bei komplexeren Aufgaben starke Ergebnisse.
Der entscheidende Punkt für die Praxis: Vervollständigung und Chat haben unterschiedliche Anforderungen. Die Autovervollständigung muss in unter hundert Millisekunden antworten, sonst tippt der Entwickler schneller, als der Vorschlag erscheint – dann stört das Werkzeug mehr, als es hilft. Dafür nehmen Sie ein kleines, schnelles Modell. Für den Chat mit tiefer Analyse darf es ein größeres sein, das auch mal eine Sekunde braucht. Diese Zweiteilung trennen reife Setups sauber.
Die Hardware-Frage ehrlich beantwortet
Ohne GPU wird es zäh. Ein 7-Milliarden-Parameter-Modell läuft quantisiert auf einer Karte mit 16 bis 24 GB Speicher brauchbar – eine gebrauchte RTX 4090 oder eine A5000 reichen für ein kleines Team. Wollen mehrere Dutzend Entwickler gleichzeitig Vorschläge bekommen, brauchen Sie einen Inferenz-Server wie vLLM, der Anfragen bündelt und die GPU auslastet, statt für jeden Request neu zu starten.
Quantisierung ist hier Ihr Hebel. Ein auf 4 Bit reduziertes Modell passt in weniger Speicher und antwortet schneller, bei Code meist ohne spürbaren Qualitätsverlust. Rechnen Sie trotzdem nüchtern: Eine GPU, die rund um die Uhr läuft, kostet Strom, Kühlung und Administration. Diese Posten tauchen in keinem Abo auf, sind aber real.

Integration in den Entwicklungsalltag
Ein Assistent, den niemand benutzt, ist verschwendetes Geld. Deshalb entscheidet die Einbindung in die vorhandene IDE. VS Code und die JetBrains-Reihe werden von allen drei genannten Werkzeugen unterstützt, und genau dort arbeiten Ihre Leute ohnehin. Die Umstellung spüren sie kaum: gleiche Tastenkürzel, Vorschläge erscheinen inline, der Chat sitzt in der Seitenleiste.
In air-gapped Netzen zeigt sich der eigentliche Vorteil. Modell-Gewichte und Container einmal über die Schleuse gebracht, läuft der gesamte Dienst ohne jede Internetverbindung. Dazu gehört eine Rechteverwaltung: Wer darf welchen Index durchsuchen, welche Repositories bleiben außen vor. Ein Team für Lohnbuchhaltung soll nicht versehentlich den Code der Produktentwicklung vorgeschlagen bekommen.
Was Sie vor dem Rollout klären sollten
Selbst gehostet heißt nicht automatisch günstig. Vendor-Analysen beziffern die Gesamtkosten einer Eigenlösung je nach Auslastung auf ein Vielfaches des reinen API-Preises – Betrieb, GPU-Abschreibung und Personal eingerechnet. Rechnen Sie Ihren Fall durch, bevor Sie den Grundsatzbeschluss fassen. Für ein Fünf-Personen-Team ohne Datenschutzzwang ist ein Cloud-Abo oft schlicht billiger.
Und testen Sie vor dem Ausrollen. Lassen Sie drei, vier Entwickler zwei Wochen mit dem Setup arbeiten und messen Sie Akzeptanzrate der Vorschläge und Antwortzeiten in Ihrer echten Codebasis, nicht an einem Demo-Projekt. Prüfen Sie außerdem die Lizenz jedes Modells: Offene Gewichte bedeuten nicht pauschal freie kommerzielle Nutzung, die Bedingungen unterscheiden sich spürbar. Wer diese drei Punkte – Kosten, reale Qualität, Lizenz – vorab klärt, erspart sich die teure Kehrtwende nach dem Rollout.
Sie wollen prüfen, ob ein selbst gehosteter Coding-Assistent zu Ihrer Infrastruktur und Ihren Compliance-Anforderungen passt? Wir begleiten Unternehmen von der Modellauswahl über die GPU-Dimensionierung bis zum produktiven Betrieb hinter der eigenen Firewall. Sprechen Sie mit uns auf ai-designers.de – wir finden gemeinsam heraus, was für Ihr Team wirklich trägt.
Bilder: AI-Designed
English

