Systeme mit KI bauen: vom Prompt bis in den Produktivbetrieb
Systeme mit KI zu bauen heißt, das Modell als schnellen Umsetzer zu behandeln, nicht als Architekten. Du schreibst die Spezifikation, ziehst die Grenzen und sicherst jede Änderung mit Tests ab. Generieren ist billig — Spezifizieren und Prüfen ist die Arbeit.
Warum Prompten allein aufhört zu funktionieren
Ein einzelner Prompt erzeugt einen überzeugenden Prototyp. Ein System erzeugt er nicht, denn ein System ist durch seine Grenzen definiert: Was spricht mit was, was passiert beim Ausfall einer Abhängigkeit, wer darf welche Aktion auslösen. Modelle optimieren lokal und haben kein Interesse daran, wie das Ganze in sechs Monaten aussieht.
Genau diese Lücke beschreiben die Zahlen: Die Verbreitung ist hoch, aber nur rund 29 Prozent der Entwickelnden vertrauen dem Ergebnis, und etwa 77 Prozent halten es aus dem Produktivbetrieb heraus. Wer die Lücke geschlossen hat, hat kein besseres Modell gefunden, sondern Struktur drumherum gebaut.
Spezifikationsgetriebene Entwicklung in der Praxis
- Eine schriftliche Spezifikation pro Änderung: Was soll danach zutreffen, welche Dateien dürfen angefasst werden, was darf sich nicht ändern. Was in der Spezifikation offenbleibt, wird im Code zu einer erfundenen Entscheidung.
- Tests als Gate in der Pipeline: Lässt sich eine generierte Änderung nicht automatisch verifizieren, wird sie nicht gemergt. Das ist die wirksamste einzelne Kontrolle, die es gibt.
- Menschliche Architekturprüfung bei allem Strukturellen: neue Abhängigkeiten, neue Datenflüsse, neue Vertrauensgrenzen. Alles andere darf schnell laufen.
Eine Reihenfolge, die den Kontakt mit Nutzenden übersteht
| Schritt | Was du machst | Was das Modell macht |
|---|---|---|
| 1. Rahmen | Ein Satz Zielbild und die Nicht-Ziele | Nichts |
| 2. Quelle | Open-Source-Baustein für den schweren Teil finden | Kandidaten zusammenfassen |
| 3. Spezifikation | Schnittstellen, Datenformen, Fehlerverhalten festlegen | Entwurf, den du korrigierst |
| 4. Gerüst | Dateistruktur freigeben | Struktur erzeugen |
| 5. Umsetzung | Kleine Diffs prüfen | Code gegen die Spezifikation schreiben |
| 6. Verifikation | Verantwortung für die Testsuite | Tests schreiben, die du liest |
| 7. Härtung | Auth, Eingaben, Geheimnisse auditieren | Zuarbeiten, nicht entscheiden |
Die Sicherheitsebene, die du nicht delegieren kannst
Eine randomisierte Studie in Stanford fand, dass Entwickelnde mit KI-Unterstützung unsichereren Code schrieben und gleichzeitig überzeugter von dessen Sicherheit waren. Sicherheitsgefühl und Sicherheit liefen auseinander — dein eigenes Gefühl ist also kein brauchbares Signal.
Praktisch bedeutet das eine feste Checkliste für jede Änderung an einer Vertrauensgrenze: Authentifizierung und Sitzungsverwaltung, Autorisierung an jedem Endpunkt statt nur in der Oberfläche, serverseitige Eingabevalidierung, keine Geheimnisse in generierter Konfiguration, Herkunft neuer Abhängigkeiten vor der Installation prüfen.
Wo Open-Source-Bausteine hingehören
Am schnellsten entstehen Systeme, in denen der schwierige, klar umrissene Teil bereits von jemand anderem gelöst ist und deine Arbeit in Integration, Fachlogik und Oberfläche besteht. Das ist kein Kompromiss, sondern die übliche Entstehungsweise langlebiger Software.
Das praktische Problem ist, den richtigen Baustein zu finden. Sternzahlen messen Beliebtheit, nicht Eignung. Jeder Eintrag im RepoLoot-Katalog ist daraufhin analysiert, was das Projekt tut, welches Problem es löst, was sich darauf bauen lässt und wie aufwendig die Umsetzung ist.
Häufige Fragen
- Was ist spezifikationsgetriebene Entwicklung?
- Eine Arbeitsweise, bei der ein KI-Agent eine schriftliche Anforderung erhält — was danach zutreffen soll, welche Dateien er anfassen darf, was unverändert bleiben muss — statt eines offenen Prompts, und das Ergebnis vor dem Merge durch automatische Tests muss.
- Wie hältst du KI-generierten Code sicher?
- Mit einer festen Checkliste für jede Änderung an einer Vertrauensgrenze: Authentifizierung und Sitzungen, serverseitige Autorisierung an jedem Endpunkt, serverseitige Eingabevalidierung, keine Geheimnisse in generierter Konfiguration, geprüfte Herkunft neuer Abhängigkeiten. Verlass dich nicht auf dein Sicherheitsgefühl — laut Stanford-Studie steigt es, während die Sicherheit sinkt.
- Kann KI Systemarchitektur entwerfen?
- Entwerfen und kritisieren ja, entscheiden nein. Modelle optimieren lokal und haben kein Interesse am Zustand in sechs Monaten. Neue Abhängigkeiten, Datenflüsse und Vertrauensgrenzen gehören in die menschliche Prüfung.