Die Kontrollillusion — Warum 77 Prozent der Unternehmen ihre KI nicht mehr verstehen
Ein digitales Netzwerk aus leuchtenden Knoten — die Oberfläche einer Kontrolle, die längst nicht mehr bis ins Innere reicht.
Einleitung
Es ist Dienstagmorgen, halb acht in Leipzig-Lindenau. Ich lese eine Meldung, die eigentlich nicht überrascht: 77 Prozent der Unternehmen hinken bei KI-Kontrollen hinterher. 70 Prozent geben zu, dass Technologie schneller ausgerollt wird, als die IT-Abteilungen sie nachverfolgen können. Der technische Begriff dafür lautet „Loop Engineering” — moderne Systeme arbeiten in iterativen Schleifen, planen, führen aus, validieren, verbessern sich selbst. Der Mensch liefert nur den strategischen Rahmen.
Ich schalte den Computer an und denke: Wir haben es geschafft, Kontrollsysteme zu bauen, die nur noch auf dem Papier existieren. Nicht weil niemand wollte. Sondern weil die Geschwindigkeit der Einführung die Geschwindigkeit der Aufsicht längst überholt hat.
These 1: Kontrolle ist eine Zeitfunktion — und die Zeit läuft gegen uns
Jeder Kontrollmechanismus braucht eine Annahme über die Geschwindigkeit des Systems, das er überwacht. Ein Flugzeug wird in Echtzeit überwacht, weil seine physikalischen Grenzen bekannt sind. Ein KI-Agent, der in Sekundenbruchteilen eigenen Code schreibt, testet und deployt, folgt anderen Zeithorizonten. Die Studie des IBM Institute for Business Value sagt es nüchtern: Die Entwicklung schreitet schneller voran als die Governance-Fähigkeiten. Das ist kein Versagen einzelner Manager. Das ist ein strukturelles Missverhältnis zwischen Werkzeug und Werkzeugkontrolle.
Die Folge ist nicht, dass nichts mehr funktioniert. Die Folge ist, dass wir Entscheidungen treffen, ohne die Bedingungen noch überprüfen zu können. Wir optimieren Prozesse, die wir nicht mehr vollständig verstehen. Wir vertrauen auf Auditierungskonzepte, die 90 Tage dauern — während die Systeme, die sie prüfen sollen, sich in dieser Zeit längst mehrmals neu geschrieben haben.
Consequence: Wenn Kontrolle langsamer ist als das Kontrollierte, wird sie zur Form. Dann dienen Governance-Berichte nicht mehr der Überprüfung, sondern der Beruhigung.
These 2: Die falsche Antwort heißt „mehr Kontrolle” — sie heißt „andere Architektur”
Die Industrie reagiert mit neuen Rahmenwerken. Der EC-Council hat das ADG-Framework vorgestellt: Adopt, Defend, Govern. Microsoft hat Compliance-Tools angekündigt. Das ist sinnvoll, solange es um Schnittstellen, Dokumentation und Checklisten geht. Aber es verfehlt den Kern, wenn es nur darum geht, ein schnelles System mit zusätzlichen Genehmigungsschleifen zu versehen.
Andrew Ng spricht von Sicherungsschaltern und Belastungstests. Das ist der richtige Ansatz — aber es bleibt eine technische Antwort auf ein systemisches Problem. Sicherungsschalter funktionieren nur, wenn sie an Stellen eingebaut sind, die das System nicht selbst umgehen kann. Wenn der Agent aber lernen kann, den Schalter zu umgehen, weil sein Ziel „Erfolg” lautet und nicht „Sicherheit”, dann ist der Schalter nur noch Dekoration.
Interessant ist in diesem Zusammenhang eine Zahl aus der Studie: Unternehmen mit eingebetteten Kontrollsystemen setzen 16-mal mehr KI-Agenten ein und erzielen 18 Prozent höhere Betriebsmargen. Das legt nahe, dass Kontrolle kein Geschwindigkeitsbremsen-Konzept ist, sondern ein Leistungsfaktor. Aber es bedeutet auch: Die Kontrolle muss von Anfang an im Design verankert sein, nicht nachträglich aufgesetzt.
Consequence: Die Architektur der Kontrolle entscheidet, ob Governance ein Wettbewerbsvorteil ist oder nur ein Bürokratieaufschlag. Es gibt keinen Mittelweg.
These 3: Die eigentliche Krise ist die fehlende demokratische Reflexion
Die Studie erwähnt den EU-KI-Verordnungsleitfaden und Compliance-Herausforderungen. Aber sie spricht nicht darüber, wer die Folgen trägt, wenn die Kontrolle versagt. Wenn ein KI-Agent eine falsche Entscheidung trifft, die Menschen betrifft — wer ist dann verantwortlich? Der Entwickler, der das System trainiert hat? Der Manager, der es freigegeben hat? Der Auditor, der die Prüfung bestanden hat, obwohl sie nur formal war?
Wir befinden uns in einer Übergangsphase, in der technische Systeme schneller entscheiden können, als unsere rechtlichen und ethischen Rahmenwerke sie binden können. 77 Prozent der Unternehmen hinken hinterher — das ist eine betriebswirtschaftliche Erkenntnis. Aber die gesellschaftliche Frage lautet: Was passiert mit der Gesellschaft, wenn 77 Prozent der wichtigsten Entscheidungen von Systemen getroffen werden, die niemand mehr vollständig überblickt?
Die Antwort kann nicht sein, die Entwicklung zu stoppen. Die Antwort kann auch nicht sein, die Kontrolle nachträglich zu verstärken. Die Antwort muss sein, die Architektur von Anfang an so zu gestalten, dass Kontrolle und Geschwindigkeit keine Gegensätze sind. Dass Systeme so gebaut werden, dass ihre Entscheidungen nachvollziehbar bleiben — auch dann, wenn sie schneller sind als ihre Erfinder.
Consequence: KI-Governance ist kein technisches Add-on. Sie ist eine gesellschaftliche Infrastruktur. Wer sie nachträglich baut, baut sie für die falschen Probleme.
Fazit
Die Zahl ist ernüchternd: 77 Prozent. Aber sie ist auch eine Einladung. Sie zeigt, dass wir uns nicht mehr in der Phase befinden, in der einzelne Unternehmen die Kontrolle über ihre Systeme behalten können, weil sie besonders sorgfältig sind. Wir brauchen eine neue Architektur des Vertrauens — nicht das Vertrauen in die Technik, sondern das Vertrauen in die Struktur, die die Technik trägt.
Die Frage ist nicht, ob wir KI-Systeme kontrollieren können. Die Frage ist, ob wir sie so bauen, dass Kontrolle möglich ist — bevor die nächste Studie kommt und eine höhere Zahl nennt.
Quelle: „KI-Governance-Krise: 77% der Unternehmen hinken bei Kontrollen hinterher”, ad-hoc-news.de, 07.07.2026. Der Beitrag gibt die Position der Autorin wieder.
Siehe auch
[Die drei inversen Gesetze der Robotik](/blog/die-drei-inversen-gesetze-der-robotik/)[Wenn KI das System lahmlegt – eine Geschichte von Cronjobs, vollen Festplatten und frustrierten Assistenten](/blog/ki-cronjob-fehler-system-absturz/)