KI soll Prozesse vereinfachen, beschleunigen und zu besseren Entscheidungen führen. Manchmal tut sie das tatsächlich. Doch oft modelliert sie nur noch genauer, warum alles so kompliziert bleiben darf und muss. So wartet man dann weiterhin eine Ewigkeit auf «Passierschein A38» – nur eben elektronisch.
Der Gedanke zu diesem Artikel kam mir bei der Beobachtung eines «Agentensystems», das mehrere Minuten Zeit brauchte, um eine eigentlich triviale Frage zu beantworten: Wie hat sich der Umsatz in den letzten drei Monaten entwickelt? Eigentlich sollte mit KI doch alles schneller gehen? Aber was, wenn wir bürokratische Prozesse einfach nur technischer machen…?
Für Unternehmen wird KI genau dann wertvoll, wenn sie Prozesse automatisiert oder vereinfacht und damit schnellere Entscheidungen ermöglicht: Weniger Formulare. Weniger Rückfragen. Weniger Warten.
Eigentlich!
Das Problem liegt darin, dass Organisationen selten nur Arbeit automatisieren.
Oft automatisieren sie auch ihre Unsicherheiten.
Das führt dazu, dass die Unternehmensbürokratie nicht abgebaut wird, sondern einfach nur technischer wird. Sie liegt nicht mehr in Aktenschränken und Cloud-Ordnern, sondern in Workflows, Rollenmodellen, Freigabeschleifen, Audit-Logs und Agenten-Orchestrierung.
KI-Agenten versprechen Entlastung:
Ein Agent liest die Anfrage.
Ein Agent prüft den Kontext.
Ein Agent bewertet das Risiko.
Ein Agent schlägt die nächste Aktion vor.
Ein Agent dokumentiert das Ergebnis.
Auf den ersten Blick klingt das vernünftig und man könnte denken: Wenn einzelne Schritte automatisiert werden, wird der Prozess einfacher, schneller, sauberer.
Das ist aber leider nicht immer der Fall.
Denn jeder Agent braucht eine Aufgabe. Jede Aufgabe braucht Grenzen. Jede Grenze braucht Kontrolle. Und jede Kontrolle braucht Dokumentation.
So entsteht eine neue Prozesslogik:
Nicht mehr: Wer muss das entscheiden?
Sondern: Welcher Agent darf was vorbereiten, prüfen, ausführen, eskalieren oder blockieren?
Das klingt technischer, ist aber nicht automatisch weniger bürokratisch.
Besonders heikel wird es dort, wo die KI uns nicht nur Arbeit abnehmen, sondern auch Unsicherheiten beruhigen soll.
Ein unklarer Output bekommt einen Prüfschritt. Eine unklare Verantwortung bekommt eine Freigabe. Eine unklare Erklärung bekommt eine Dokumentation.
Das ist nicht irrational, ganz im Gegenteil: Jeder einzelne Schritt wirkt vernünftig.
Doch der Gesamtprozess wird immer schwerfälliger.
Der Denkfehler liegt darin, Automatisierung mit Vereinfachung gleichzusetzen.
Doch ein Prozess wird nicht schlanker, nur weil ein Agent darin arbeitet: Er wird erst schlanker, wenn überflüssige Schritte verschwinden. Wenn unnötige Übergaben entfallen. Wenn Entscheidungen klarer werden.
Denn: Wer einen dummen Prozess digitalisiert, hat einen digitalisierten, dummen Prozess. 😊
Die Komplexität bleibt.
Oder schlimmer noch: Sie wächst.
In der Forschung wird dieses Phänomen mit Begriffen wie algorithmische Verwaltung, automatisierte Entscheidungsfindung oder algorithmische Bürokratie beschrieben. Gemeint ist jedoch nicht einfach die Tatsache, dass Behörden oder Unternehmen Software nutzen – das wäre trivial.
Das Interessante ist vielmehr, dass algorithmische Systeme die bisherige Verwaltung nicht einfach ersetzen, sondern Zuständigkeiten, Kompetenzen und Verantwortlichkeiten neu ordnen. Das haben Vogl, Seidelin, Ganesh und Bright am Beispiel der britischen Lokalverwaltung anschaulich beschrieben (LINK).
Entscheidungen sind nun nicht mehr nur durch Menschen, Regeln und Zuständigkeiten geprägt, sondern auch durch Datenmodelle, Scores, Workflows und Systemlogiken.
Das kann helfen.
Ein gut gebautes System kann Fehler reduzieren. Es kann Routinefälle schneller bearbeiten. Es kann Entscheidungen vergleichbarer machen.
Doch Bürokratie verschwindet dadurch nicht automatisch, sondern verlagert sich nur:
Weg vom Formular, hin zum Modell.
Weg von der Unterschrift, hin zur Freigabelogik.
Weg vom Sachbearbeiter, hin zur Frage, wer für Fehler der KI eigentlich verantwortlich ist.
Genau hier wird es interessant:
Komplexität wird durch Automatisierung nicht einfach reduziert, sondern verdeckt. Sie wird unsichtbar gemacht oder in Bereiche verschoben, die schwerer zu hinterfragen sind: Datenqualität, Trainingslogik, Risikoregeln, Schwellenwerte, Systemgrenzen.
Für die Praxis heisst das: Ein äusserlich schlanker KI-Prozess kann innerlich eine neue Verwaltungsschicht entstehen lassen. Mit Monitoring und Governance. Mit Ausnahmen, Prüfregeln und Eskalationspfaden.
Das ist nicht per se falsch, doch gerade bei sensiblen Entscheidungen braucht es genau hier besondere Kontrolle.
Vielleicht ist das die nüchternste Erkenntnis aus der Forschung: Digitale Systeme schaffen Bürokratie nicht ab. Sie verändern ihre Form und machen sie dadurch schwerer erkennbar.
KI-Bürokratie entsteht dort, wo einfache Einschätzungen in aufwendige Verfahren übersetzt werden, ohne dass die Entscheidungen dadurch besser werden.
Ein klassisches Beispiel findet sich schon im Kleinen, im Bereich der Business Intelligence:
Angenommen ein Dashboard zeigt folgende Entwicklung: Umsatz nach Region, Abweichung zum Vorjahr, auffällige Ausreisser. Man schaut darauf, erkennt ein Muster und stellt eine Anschlussfrage.
So sollte es eigentlich sein. Denn ein gutes Dashboard ist kein Roman, sondern eher ein Instrument: Man sieht etwas, prüft kurz, ordnet ein und entscheidet, ob es relevant ist.
Mit KI-Agenten verändert sich diese Logik: Nun wird nicht mehr zuerst geschaut, sondern sofort gefragt. Dann analysiert ein Agent. Ein zweiter Agent prüft den Kontext. Ein dritter formuliert eine Erklärung. Vielleicht wird noch eine Hypothese erzeugt, eine Begründung geschrieben und eine nächste Aktion vorgeschlagen.
Das klingt fortschrittlich – und manchmal ist es das auch.
Aber gerade bei einfachen Fragen entsteht nun ein merkwürdiger Umweg. Eine Information, die man im Diagramm auf einen Blick gesehen hätte, wandert durch eine rechenstarke Interpretationsmaschine. Am Ende kommt eine Antwort zurück, die nicht falsch sein muss – nur ist diese vielleicht auch nicht viel klüger als der menschliche Blick auf die Grafik.
Bitte nicht falsch verstehen:
Das ist kein Argument gegen solche Systeme, sondern lediglich ein Argument gegen ihre falsche Verwendung.
Es ist ein Plädoyer zu prüfen, ob automatisierte Prozesse nicht vielleicht dazu führen, dass wir das Denken verlernen und uns langfristig mehr Unsicherheit schaffen.
Denn wenn man beginnt, einfache visuelle Urteile an Agenten auszulagern, verändert sich etwas. Nicht nur im Prozess, sondern auch im Denken.
Man trainiert sich ab, selbst hinzuschauen. Man gewöhnt sich daran, das Urteilen der KI zu überlassen.
Ähnlich ist es z. B. auch bei Simulationen, die ich aktuell für bestimmte Fragestellungen teste:
Eine simulierte Zielgruppe kann nützlich sein. Vor allem dann, wenn man Annahmen testen, Reaktionen strukturieren oder blinde Flecken finden möchte. Sie kann helfen, nicht nur aus dem eigenen Bauch heraus zu argumentieren.
Aber auch hier gibt es eine Grenze:
Wenn ich einen Claim formuliere und eine halbstündige Simulation starte, bekomme ich mehr Text. Mehr Perspektiven. Mehr scheinbare Tiefe.
Offen dabei bleibt:
Weiss ich danach wirklich mehr?
Oder habe ich nur eine aufwendigere Form der Unsicherheit produziert?
Vielleicht hätte eine Kollegin nach einer Minute gesagt: „Klingt etwas generisch.“
Das wäre vielleicht nicht wissenschaftlich.
Aber vielleicht wäre es ausreichend gewesen.
Und genau DAS ist der Punkt:
Nicht jede Entscheidung braucht eine Simulation.
Nicht jede Frage braucht eine Agentenkette.
Nicht jede Unsicherheit verdient einen Prozess.
Manche Fragen sind heuristisch gut genug beantwortbar.
Das klingt erst einmal unmodern, geradezu verdächtig einfach.
Aber in der Praxis liegt oft genau in dieser Einfachheit die eigentliche Kompetenz: Es gilt zu erkennen, wann ein genaueres Verfahren wirklich zusätzlichen Erkenntniswert bringt – und wann es nur Sicherheit inszeniert.
Denn KI kann aus Unsicherheit nicht automatisch Gewissheit machen.
Eine Simulation schaut nicht in die Zukunft – auch wenn das gerne suggeriert wird.
Ein Agent versteht ein Diagramm nicht zwingend besser als ein erfahrener Mensch.
Ein Prozess ersetzt nicht die Verantwortung, am Ende eine Einschätzung zu treffen.
Trotzdem scheint der technische Umweg oft attraktiv:
Er fühlt sich sauberer an.
Er wirkt objektiver und lässt sich gut dokumentieren.
Er verteilt Verantwortung.
Und vielleicht liegt genau darin die neue Bürokratie.
Nicht im Formular, sondern im Verfahren, das uns erlaubt, eine einfache Einschätzung nicht selbst treffen zu müssen.
Früher konnte man sagen: „Das muss zuerst durch die Fachabteilung.“
Heute kann man sagen: „Das lassen wir zuerst durch den Agenten laufen.“
Der Satz klingt moderner, doch die Funktion ist ähnlich: Man verschiebt Verantwortung.
Die eigentliche Gefahr ist nicht, dass KI falsche Antworten gibt – das wäre immerhin sichtbar.
Viel grösser ist die Gefahr, dass sie plausible Antworten gibt, die den Eindruck erzeugen, man habe gründlicher entschieden – dabei hat man vielleicht nur länger gezögert.
Mein Fazit hier: Nicht jede Unsicherheit verdient einen Prozess.
Die falsche Frage lautet: Können wir diese Entscheidung mit KI unterstützen?
Das klingt sinnvoll, ist aber viel zu breit.
Die bessere Frage lautet:
Welche Art von Unsicherheit haben wir eigentlich?
Denn es gibt verschiedene Arten von «Unsicherheit»:
Wer all diese Fälle gleich behandelt, baut Bürokratie – egal ob nun mit oder ohne KI.
Besser wäre eine einfache Unterscheidung:
1. Blick genügt.
Das Dashboard zeigt genug, kein Agent nötig.
2. Kurze Rückfrage genügt.
Eine erfahrene Person kann die Einschätzung schneller und besser geben als eine Simulation.
3. Strukturierte Analyse lohnt sich.
Datenlage, Risiko oder Tragweite rechtfertigen mehr Aufwand.
4. Prozess ist notwendig.
Hier geht es nicht um den Erkenntnisgewinn, sondern um Verantwortung, Compliance und/oder Nachvollziehbarkeit.
Eine unangenehme Frage bleibt also übrig:
Wer entscheidet eigentlich?
Der Mensch?
Der Agent?
Das Modell?
Der Prozess?
Das Gremium, das den Prozess irgendwann einmal freigegeben hat?
Auf dem Papier lässt sich das meist beantworten.
In der Praxis dagegen wird es oft schwieriger:
Ein KI-System kann eine Empfehlung geben. Ein Agent kann eine Antwort vorbereiten. Ein Workflow kann eine Eskalation auslösen. Am Ende klickt vielleicht ein Mensch auf «Freigeben»...
Aber damit ist längst nicht geklärt, ob dieser Mensch wirklich entschieden hat.
Vielleicht hat er nur bestätigt, was das System nahegelegt hat. Vielleicht hatte er gar nicht genug Kontext, um sinnvoll zu widersprechen. Vielleicht wäre ein Widerspruch zwar möglich, aber organisatorisch nicht besonders erwünscht gewesen.
Dann ist der Mensch nicht mehr Entscheider, sondern lediglich «Haftungsdekor».
Und genau hier wird KI-Bürokratie gefährlich. Nicht, weil KI eingesetzt wird – sondern weil sie aus einer Entscheidung wieder einen Vorgang machen kann.
Noch eine Simulation.
Noch ein Agent.
Noch eine Analyse.
Noch eine Begründung.
Noch ein Prozessschritt.
Das wirkt sorgfältig – und manchmal ist es das auch!
Aber in vielen Fällen wird dabei keine relevante Unsicherheit reduziert. Es wird nur angenehmer, weil sich noch niemand festlegen muss.
Wenn ein Dashboard eine klare Entwicklung zeigt, muss man nicht immer zuerst eine Interpretationskette starten. Wenn ein Claim schwach klingt, braucht es nicht zwingend eine simulierte Zielgruppe. Wenn eine Einschätzung ausreichend gut möglich ist, wird sie nicht automatisch besser, nur weil man sie länger verarbeitet (alles jetzt einmal Beispiele aus meinem Kommunikationsbereich…).
Genau dort beginnt, so denke ich, KI-Bürokratie.
Nicht, weil KI eingesetzt wird.
Sondern weil die KI erlaubt, Verantwortung weiterzureichen und das dann trotzdem wie Sorgfalt aussehen zu lassen. Das ist jedoch nicht sorgfältig, sondern nur komfortabel.
Denn das ist die eigentliche Prüffrage:
Nicht: Kann KI diesen Prozess übernehmen?
Sondern: Hilft dieser Prozess überhaupt noch, eine bessere Entscheidung zu treffen?
Der Agent hat es geprüft.
Die Simulation hat es gezeigt.
Der Score war nicht eindeutig.
Der Prozess ist noch nicht abgeschlossen.
Das klingt rational.
Aber vielleicht heisst es auch nur: Niemand wollte sich festlegen.
Doch entscheiden müssen wir trotzdem.
Quellen und Denkanstösse