Kurz gesagt: Wie autonom ein KI-Agent arbeiten darf, lässt sich für den Agenten als Ganzes nicht beantworten. Die Entscheidung fällt für jeden einzelnen Schritt eines Ablaufs. Im AI-First-Betriebsmodell arbeite ich dafür mit drei Autonomiestufen, die ich Vorschlagen, Ausführen mit Prüfung und Handeln unter Aufsicht nenne. Welche Stufe passt, hängt vor allem davon ab, wie leicht sich Folgen zurücknehmen lassen und wie schnell ein Fehler auffällt. Die Zuordnung ist eine Führungsentscheidung, und sie braucht eine Regel dafür, wann ein Schritt aufsteigt und wann er zurück muss.
Warum ist „Wie autonom ist unser Agent?“ die falsche Frage?
Die Frage klingt vernünftig und führt trotzdem in die Irre. Nehmen wir einen Agenten, der in einem Maschinenbauunternehmen Angebote vorbereitet. Er zieht Kundendaten aus dem CRM, kalkuliert auf Basis früherer Aufträge, formuliert das Anschreiben und verschickt das Angebot. Die ersten Schritte richten kaum Schaden an, wenn etwas schiefgeht. Ein verschicktes Angebot mit falschem Preis bindet das Unternehmen dagegen gegenüber dem Kunden.
Wer für diesen Agenten eine einzige Autonomiestufe festlegt, hat zwei schlechte Optionen. Entweder bremst er alle Schritte auf das Niveau des riskantesten, und der Agent spart kaum Zeit. Oder er gibt allen Schritten die Freiheit des harmlosesten und lässt ungeprüfte Preise zum Kunden gehen.
Wie es besser geht, zeigt ein Beispiel aus dem Bericht „The AI-First Operating System“, den das World Economic Forum im Juni 2026 mit Kearney veröffentlicht hat. In einer Lieferantenbeschaffung legt das Team das Ziel ohne KI fest. Die finanzielle Prüfung möglicher Lieferanten übernimmt die KI allein und legt einen Bericht vor. Bei der technischen und rechtlichen Bewertung markiert sie wichtige Punkte, die Freigabe bleibt beim Menschen. Die laufende Überwachung der Lieferanten übernimmt wieder die KI. In einem einzigen Ablauf kommen also alle Stufen vor.
Woher kommen Autonomiestufen für KI-Agenten?
Die Idee ist älter als die aktuellen Agenten. Beim automatisierten Fahren unterscheidet die Norm SAE J3016 seit Jahren Stufen von 0 bis 5. Für KI in Unternehmen gibt es inzwischen zwei Modelle, auf die ich mich stütze.
Das World Economic Forum verwendet eine Skala mit fünf Stufen, die auf der Human Agency Scale von Shao und Kollegen (2025) beruht. Sie reicht vom Agenten, der eine Aufgabe ohne Menschen erledigt, bis zur Aufgabe, die vollständig beim Menschen bleibt. Forschende der University of Washington um Kevin Feng beschreiben ebenfalls fünf Stufen, ordnen sie aber nach der Rolle des Menschen. Auf der untersten Stufe steuert er den Agenten wie ein Werkzeug, auf der obersten beobachtet er nur noch.
Für die Forschung sind fünf Stufen sinnvoll. Für die Arbeit in Führungsteams habe ich die Skala auf drei Stufen reduziert, weil sie im Alltag leichter zu handhaben sind. Zwischen fünf benachbarten Stufen verschwimmen die Grenzen schnell, und Entscheidungen bleiben in Begriffsdebatten hängen. Jede meiner drei Stufen steht für einen anderen Kontrollmechanismus, und genau darauf kommt es in der Führung an.
Welche drei Autonomiestufen gibt es im AI-First-Betriebsmodell?
| Stufe | Was der Agent tut | Was der Mensch tut | Geeignet für | Beispiel |
|---|---|---|---|---|
| Vorschlagen | bereitet vor und empfiehlt | entscheidet und handelt selbst | Schritte mit viel Ermessen oder schwer rücknehmbaren Folgen | Der Agent sucht vergleichbare Reklamationen und formuliert eine Empfehlung, die Sachbearbeiterin entscheidet und schreibt dem Kunden. |
| Ausführen mit Prüfung | erledigt Routinefälle selbst | prüft Ausnahmen und Stichproben | viele gleichartige Fälle, Fehler sichtbar und korrigierbar | Eindeutige Garantiefälle bearbeitet der Agent, alle anderen legt er einem Menschen vor. |
| Handeln unter Aufsicht | handelt innerhalb fester Grenzen | überwacht Kennzahlen und Warnsignale | klar geregelte, wiederkehrende Schritte mit geringem Einzelrisiko | Der Agent reserviert Ersatzteile, sobald ein Mindestbestand unterschritten ist. Ein Mensch prüft die wöchentliche Auswertung. |
Der Unterschied liegt im Zeitpunkt der Kontrolle. Beim Vorschlagen prüft ein Mensch vor jeder Handlung. Beim Ausführen mit Prüfung kontrolliert er nach der Handlung einzelne Fälle. Beim Handeln unter Aufsicht schaut er auf das Gesamtergebnis. Wer eine Stufe festlegt, entscheidet damit auch, wo im Ablauf menschliche Arbeitszeit gebraucht wird.
Nach welchen Kriterien ordnet man einen Prozessschritt einer Stufe zu?
Vier Fragen helfen bei der Zuordnung.
- Lassen sich die Folgen zurücknehmen? Ein falsch einsortiertes Ticket ist in Minuten korrigiert. Eine ausgelöste Zahlung oder eine Preiszusage an einen Kunden ist es nicht.
- Wie gleichförmig sind die Fälle? Tausend ähnliche Rechnungen eignen sich für eine höhere Stufe als zwanzig Sonderfälle im Jahr.
- Wie viel Ermessen steckt im Schritt? Wo erfahrene Mitarbeitende zu unterschiedlichen Ergebnissen kämen, gehört die Entscheidung zum Menschen.
- Wie schnell wird ein Fehler sichtbar? Ein Fehler, der beim nächsten Kundenkontakt auffällt, ist billiger als einer, den erst die Jahresabschlussprüfung findet.
Deloitte kommt zu einem ähnlichen Ergebnis. Besonders geeignet für KI sind danach Tätigkeiten, die sich wiederholen und viele Daten nutzen, sowie solche, die auf Regeln beruhen und klare Erfolgskriterien haben. Bereiche mit komplexem Urteil oder erheblichem Risiko brauchen weiterhin eine enge menschliche Beteiligung. Zeigen zwei Antworten in unterschiedliche Richtungen, empfehle ich die vorsichtigere Stufe, bis Daten eine höhere rechtfertigen.
Wann darf ein Agent eine Stufe aufsteigen, und wann muss er zurück?
Die Grenze zwischen dem, was ein Agent übernehmen kann, und dem, was beim Menschen bleibt, verschiebt sich mit der Zeit. Das WEF beschreibt das ausdrücklich. Eine Zuordnung, die heute stimmt, sollte deshalb nach spätestens sechs Monaten erneut geprüft werden.
Für das Hochstufen sollte vorher feststehen, welche Fehlerquote in den Stichproben über welchen Zeitraum erreicht sein muss. Außerdem darf es keinen ernsten Vorfall gegeben haben, und die fachlich verantwortliche Person muss zustimmen. Für das Zurückstufen reicht ein relevanter Vorfall. Der Schritt geht dann sofort eine Stufe zurück, bis die Ursache geklärt ist. Dasselbe gilt, wenn das zugrunde liegende Modell oder wichtige Daten wechseln.
Ohne eine solche Regel passiert etwas, das ich schleichende Hochstufung nenne. Niemand entscheidet, einem Agenten mehr Freiheit zu geben. Nach einigen Monaten ohne Auffälligkeiten schaut aber auch niemand mehr genau hin, und aus Ausführen mit Prüfung ist stillschweigend Handeln ohne Aufsicht geworden. Die Autonomiestufe gehört deshalb mit Datum der letzten Prüfung in das Agentenregister.
Was hat die Autonomiestufe mit Haftung und dem AI Act zu tun?
Für Hochrisiko-Systeme verlangt Art. 14 des AI Act eine wirksame menschliche Aufsicht. Die Menschen, die sie ausüben, müssen die Ergebnisse des Systems richtig deuten und es bei Bedarf anhalten können. Die Verordnung nennt dabei ausdrücklich die Gefahr, sich zu sehr auf die Ergebnisse eines Systems zu verlassen. Für Hochrisiko-Systeme nach Anhang III gelten diese Pflichten ab dem 2. Dezember 2027. Die meisten Agenten im Unternehmen fallen nicht darunter. Als Maßstab für gute Aufsicht taugt die Vorschrift trotzdem.
Hinzu kommt die Haftung der Geschäftsführung. Wer einen Schritt auf die höchste Stufe setzt, trifft eine unternehmerische Entscheidung. Sie sollte so dokumentiert sein, dass sich später nachvollziehen lässt, auf welcher Informationsgrundlage sie fiel.
Welche Fehler sollte man bei der Festlegung vermeiden?
Der häufigste Fehler ist, Autonomie nach technischer Reife zu vergeben. Dass ein Modell eine Aufgabe beherrscht, sagt wenig darüber, was passiert, wenn es sich irrt. Die Stufe richtet sich nach den Folgen eines Fehlers.
Der zweite Fehler ist eine Prüfung, die zur Formsache wird. Ein Agent, der irrt, klingt selten unsicher. Wer hundert Vorschläge am Tag bestätigt, klickt irgendwann nur noch durch. Besser funktioniert eine Stichprobe, bei der die prüfende Person ihre eigene Einschätzung abgibt, bevor sie den Vorschlag des Agenten sieht. Das hält das Urteil wach.
Der dritte Fehler ist das Fehlen einer Rückstufungsregel. Ohne sie gibt es nur eine Richtung, und die führt zur schleichenden Hochstufung.
Was sollten Geschäftsführungen jetzt prüfen?
- Eine Frage: Für welche unserer Agenten ist die Autonomiestufe pro Prozessschritt schriftlich festgelegt, und wer hat sie entschieden?
- Eine Kennzahl: der Anteil der Prüfungen, in denen ein Mensch vom Vorschlag des Agenten abweicht. Liegt er über Monate bei null, wird vermutlich nicht mehr geprüft.
- Ein Gespräch: mit den fachlich Verantwortlichen über eine Regel, wann ein Schritt aufsteigt und wann er zurückgestuft wird.
Häufige Fragen
Welche Autonomiestufen gibt es bei KI-Agenten?
Verbreitet sind Skalen mit fünf Stufen, etwa beim World Economic Forum oder bei Feng und Kollegen. Im AI-First-Betriebsmodell verwende ich drei Stufen pro Prozessschritt: Vorschlagen, Ausführen mit Prüfung und Handeln unter Aufsicht.
Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?
Beim Human in the Loop gibt ein Mensch einen Schritt frei, bevor er wirksam wird. Das entspricht der Stufe Vorschlagen. Beim Human on the Loop handelt der Agent selbst, und ein Mensch überwacht das Ergebnis und kann eingreifen. Das entspricht dem Handeln unter Aufsicht.
Wer entscheidet über die Autonomiestufe eines Agenten?
Die Person, die den Ablauf fachlich verantwortet, schlägt die Stufe pro Schritt vor. Die Geschäftsführung legt den Rahmen fest, etwa dass Schritte mit verbindlichen Zusagen an Kunden nie selbstständig ausgeführt werden. Beides gehört in die Entscheidungsmatrix des Ablaufs.
Mehr zum Thema: Das AI-First-Betriebsmodell · Die Organisation nach dem Agenteneinsatz · KI im Risikobericht · EU AI Act: Was Beiräte und Aufsichtsräte wissen müssen
Quellen: World Economic Forum in Zusammenarbeit mit Kearney (Juni 2026): The AI-First Operating System. A Blueprint for Operating and Business Model Innovation, S. 26–27 · Shao et al. (2025): Future of Work with AI Agents (Human Agency Scale), Stanford University · Feng, McDonald & Zhang (2025): Levels of Autonomy for AI Agents · Deloitte (2025): AI-first companies · Verordnung (EU) 2024/1689 (AI Act), Art. 14, EUR-Lex · Nicole Lontzek (2026): Die neue Betriebslogik, Kapitel 3
