Seit einigen Monaten schreibt bei uns nicht mehr nur der Mensch ins Firmenwissen. Ein zentraler Wissensspeicher, den Menschen und KI-Agenten über dieselbe Schnittstelle benutzen – lesen, suchen, verlinken, schreiben. Was dabei schiefging, hatte mit künstlicher Intelligenz wenig zu tun.
Zwei Sitzungen, dieselbe Nummer
Ich legte eine Übersichtsseite an und schrieb die vier gefundenen Dokumente als Schnellzugriff mit hinein. Zehn Minuten später entstand in einer parallelen Sitzung ein fünftes. Die automatisch erzeugte Liste im selben Dokument führte es sofort; meine handgeschriebene kannte es nicht.
Im selben Dokument. In derselben Stunde.
Das ist kein Sorgfaltsproblem, sondern eine Eigenschaft der Umgebung. Wo mehrere Beteiligte gleichzeitig schreiben, ist eine handgepflegte Aufzählung schon beim Schreiben veraltet. Dasselbe traf uns bei fortlaufenden Nummern: Zwei Sitzungen ziehen die nächste freie Kennung, beide bekommen dieselbe, und keine merkt es – bis jemand die Liste liest.
Die Lehre war unbequem für jemanden, der gern Ordnung schreibt. Vollständigkeit gehört in die automatische Abfrage. Der kuratierte Teil bleibt wertvoll, aber er sagt nicht mehr, was es alles gibt, sondern worauf man achten muss.
Der Import, der schrieb
Der zweite Vorfall war ernster.
Größere Umbauten am Wissensspeicher laufen bei mir über kleine Wegwerfskripte. Der Ablageort dafür stand im Suchpfad vor der Standardbibliothek. Ein völlig gewöhnlicher Import lief über mehrere Zwischenschritte und landete am Ende bei einer Datei gleichen Namens – einem Skript aus einer anderen Sitzung. Und führte es aus.
Das Skript rief eine Schreiboperation auf das Testprotokoll eines Kollegen auf. Verhindert hat es am Ende ein fehlschlagender Verbindungsaufbau. Nicht die Berechtigung.
Denn die Berechtigung griff völlig korrekt. Der Zugang war gültig, der Aufruf erlaubt, alles wie vorgesehen. Zwischen zwei Sitzungen war eine Schreibverbindung entstanden, die niemand gewollt, angefordert oder gesehen hatte.
Ein Import ist kein Aufruf, den jemand geprüft hat. Wer Agenten ausführbaren Code auf dem eigenen Rechner erzeugen lässt, öffnet einen Pfad, den keine Tür am Server abdeckt. Ablageort und Namensgebung sind seither eine Sicherheitsentscheidung, keine Ordnungsfrage.
Der Rückfall, der sich nicht meldete
Ein automatischer Nachrichtenüberblick soll bei Ausfall des Sprachmodells roh weiterlaufen, statt abzubrechen. Richtig so. Gemeldet wurde der Ausfall allerdings erst nach dem dritten Fehlversuch in Folge – derselbe Zähler steuerte Meldung und Abbruch.
An einem ruhigen Tag mit zwei Meldungen hätte das Ergebnis ausgesehen wie immer. Nur ohne jede Filterung, und ohne dass irgendwo etwas fehlgeschlagen wäre.
Ein Rückfallpfad senkt per Definition die Qualität. Vertretbar ist er nur, solange er sichtbar ist, und zwar ab dem ersten Mal. Wer die Sichtbarkeit an eine Schwelle hängt, baut sich einen Bereich, in dem das System schlechter arbeitet und dabei normal aussieht.
Was davon bleibt
Drei Regeln decken alle drei Vorfälle ab.
Geschrieben wird nur gegen einen geprüften Stand: Wer eine Datei ändert, gibt mit, wie sie beim Lesen aussah. Stimmt das nicht mehr, scheitert der Schreibvorgang laut statt leise.
Jeder Schreibvorgang hinterlässt eine Spur mit Was und Warum – nicht wegen einer Prüfstelle, sondern weil man am nächsten Tag sonst nicht mehr weiß, welche der drei Sitzungen recht hatte.
Und: Verschlechterung wird ab dem ersten Vorkommen sichtbar, nicht ab dem dritten.
Bemerkenswert daran ist, dass keine dieser Regeln etwas mit KI zu tun hat. Sie stammen aus dem Datenbankbau und aus der Buchführung. Was die Agenten verändert haben, ist nicht die Art der Fehler – sondern wie schnell sie auftreten und wie ordentlich sie dabei aussehen.