Die Arbeit mit KI-Agenten hat mein Tempo verändert, nicht meinen Maßstab. Was in Minuten entsteht, muss dieselbe Frage beantworten wie das, was früher Tage gedauert hat: Woran sehe ich, dass es stimmt?
Plausibel ist nicht richtig
Ein Sprachmodell erzeugt Antworten, die aussehen wie das Ergebnis von Nachdenken. Meistens sind sie es auch. Aber die Oberfläche verrät den Unterschied nicht: Eine erfundene Zahl klingt exakt wie eine belegte, ein fehlerhafter Testlauf liest sich wie ein bestandener. Genau deshalb ist "sieht gut aus" kein Ergebnis, sondern eine Hypothese – und Hypothesen prüft man.
Meine Regel dafür ist unspektakulär: Jede Behauptung, auf die eine Entscheidung folgt, braucht einen Nachweis am echten System. Kein Screenshot aus dem Gedächtnis, kein "sollte laufen". Ein Befehl, eine Antwort, ein Vergleich.
Die Dokumentation ist eine Behauptung, das System ist die Wahrheit
Dokumentation altert schneller, als sie gepflegt wird. Sie beschreibt den Stand am Tag des Schreibens – nicht den von heute. Wer neu in ein Projekt kommt, liest sie trotzdem wie eine Tatsache, weil sie ordentlich formatiert ist.
Ich beginne deshalb in fremdem Code nicht mit Lesen, sondern mit Messen: Existieren die beschriebenen Branches? Läuft der dokumentierte Startbefehl? Entspricht die Version im Betrieb dem, was das Changelog sagt? Wo Dokumentation und Realität sich widersprechen, gewinnt die Realität – und die Dokumentation wird korrigiert, nicht ignoriert. Ein stillschweigend hingenommener Widerspruch kostet später mehr als die zehn Minuten, ihn aufzuschreiben.
Ein Test muss prüfen, was der Mensch tut
Der teuerste Irrtum ist ein grüner Test, der die falsche Frage stellt. Ein Element kann im Code sichtbar sein und für den Nutzer trotzdem unerreichbar – weil etwas darüberliegt, weil der Klick woanders landet, weil der Browser noch eine alte Datei hält. Sichtbarkeit ist nicht Bedienbarkeit. Erreichbarkeit ist nicht Funktion.
Prüfungen müssen deshalb die Handlung nachstellen, nicht den Zustand beschreiben: klicken statt anzeigen lassen, senden statt Formular finden, aufrufen statt Datei sehen. Alles andere bestätigt nur die Annahme, mit der man hineingegangen ist.
Was das mit Compliance zu tun hat
Regulatorische Anforderungen verlangen selten Perfektion, aber fast immer Nachweisbarkeit. Der EU AI Act, die DSGVO, jedes ernsthafte Audit stellen im Kern dieselbe Frage wie ein guter Test: Woher wissen Sie das – und können Sie es zeigen?
Wer gewohnt ist, Behauptungen am System zu messen und die Messung aufzuschreiben, hat den Nachweis bereits, wenn jemand danach fragt. Wer es nicht ist, beginnt im Audit mit Archäologie. Das ist der praktische Kern von Compliance-by-Design: nicht mehr Dokumente, sondern die Gewohnheit, Ergebnisse belegbar zu machen, während sie entstehen.
Der Maßstab bleibt
KI-Agenten sind großartige Mitarbeiter und schlechte Zeugen. Sie beschleunigen den Weg zur Antwort – die Verantwortung für die Frage "Woran sehe ich, dass das stimmt?" bleibt bei uns. Wer sie stellt, bekommt aus beidem etwas Belastbares. Wer sie überspringt, bekommt schnell etwas, das gut aussieht.