KI-Governance beginnt beim Vertrauen

Kurz gesagt: KI-Governance beginnt mit der Frage, wie viel Vertrauen ein System in einem bestimmten Bereich verdient. Ein Agent, der interne Recherchen zusammenfasst, braucht andere Regeln als einer, der Kundenkommunikation vorbereitet. Wer Prüfschritte nach Risiko abstuft, entlastet die Teams und behält die Kontrolle dort, wo Fehler teuer werden.

Wie weit darf ein System eigenständig entscheiden, bevor ein Mensch eingebunden werden muss? Das ist die Kernfrage jeder KI-Governance. Diese Frage kommt in jedem Vorstand früher oder später auf den Tisch, und sie lässt sich nicht ein für alle Mal beantworten, sie muss für jeden Bereich neu gestellt werden, genau das macht sie unbequem.

Governance im KI-Zeitalter beginnt für mich genau an dieser Stelle: bei der bewussten Entscheidung, wie viel Vertrauen ein System in einem bestimmten Kontext verdient. Ein System, das interne Recherchen zusammenfasst, braucht wenig Kontrolle, ein Fehler dort kostet im schlimmsten Fall Zeit. Ein System, das öffentlich sichtbare Kommunikation vorbereitet, braucht deutlich mehr, weil ein Fehler dort sofort sichtbar wird und sich kaum zurückholen lässt.

Ich habe erlebt, wie einem Unternehmen genau diese Abstufung fehlte: Dasselbe Freigabeverfahren galt für eine interne Wettbewerbsanalyse wie für einen Social-Media-Post. Das Ergebnis war doppelt unbefriedigend. Die interne Analyse wurde unnötig verzögert, der Social-Media-Post lief gelegentlich ohne ausreichende Prüfung durch, weil das Verfahren als lästige Formalität wahrgenommen wurde, die man bei geringerem Risiko schneller abhakte.

Klare Grenzen entlasten

Klar definierte Grenzen entlasten Teams tatsächlich. Sie geben Orientierung, wo eigenständig gearbeitet werden kann und wo eine Freigabe notwendig ist. Diese Klarheit muss von der Führung kommen, weil sie am Ende auch die Verantwortung trägt, wenn eine Entscheidung falsch war. Ohne diese Klarheit entscheidet im Zweifel jeder für sich, wie vorsichtig er sein möchte, und das führt zu Ergebnissen, die von Person zu Person stark schwanken.

Verantwortung lässt sich gestalten

Ich verstehe Governance als Gestaltungsaufgabe, als bewusste Entscheidung, wo Vertrauen aufgebaut wird und wie es überprüft werden kann. Unternehmen, die das früh klären, gewinnen Geschwindigkeit, weil ihre Teams genau wissen, in welchem Rahmen sie sich bewegen. Das bedeutet auch, diese Grenzen regelmäßig zu überprüfen. Ein System, dem heute wenig zugetraut wird, kann in einem Jahr zuverlässig genug sein, um mehr Verantwortung zu übernehmen, wenn seine Fehlerquote nachweislich sinkt.

Wer in der KI-Governance diese Entscheidung trifft

Eine Frage, die dabei oft zu spät gestellt wird: Wer genau legt diese Grenzen fest? In vielen Unternehmen, die ich kenne, liegt diese Entscheidung faktisch bei der IT-Abteilung, einfach weil sie die Systeme technisch betreut. Das führt zu Regeln, die technisch sauber, aber inhaltlich blind sind, weil sie nicht wissen, wo im Marketing echtes Risiko entsteht, etwa bei markenrechtlich heiklen Formulierungen oder bei sensiblen Kundendaten. Governance-Entscheidungen gehören für mich in die Fachabteilung, die das Risiko am Ende trägt, mit technischer Unterstützung und fachlicher Führung gemeinsam.

Governance beginnt für mich immer beim Vertrauen, und Vertrauen entsteht durch klare, überprüfbare Grenzen.

Das ist für mich in erster Linie eine Führungsaufgabe, so wichtig die technische Seite auch bleibt.

Warum reichen Leitlinien für die KI-Governance nicht aus?

Fast jedes Unternehmen, das KI einsetzt, hat inzwischen Leitlinien dafür. Ein Kapitel im Sammelband „Künstliche Intelligenz im produzierenden Mittelstand“ hat solche Leitlinien von Unternehmen weltweit untersucht. Alle betonen ein transparentes Vorgehen, viele nennen außerdem Datenschutz und Sicherheitsstandards.

Diese Grundsätze sind richtig. Im Alltag helfen sie aber wenig, weil sie schneller veralten, als sich die Arbeit verändert. Eine Leitlinie, die einen fairen und transparenten Einsatz verspricht, sagt einer Innendienstmitarbeiterin nicht, ob sie den Vorschlag eines Agenten ungeprüft an einen Kunden weiterleiten darf.

Ich empfehle deshalb zwei Ebenen. Die erste enthält die Grundsätze, die sich selten ändern und die das Unternehmen auch nach außen vertritt. Die zweite enthält die Regeln für den Alltag, etwa welche Daten in welches Werkzeug dürfen und welche Risikoklasse welche Prüfung braucht. Diese zweite Ebene passt auf eine Seite und wird mindestens halbjährlich überprüft.

Einen Punkt übersehen viele. Agenten verändern sich, auch wenn niemand sie anfasst. Der Anbieter aktualisiert das Modell, und der Kontext, auf den der Agent zugreift, wächst. Ein Agent, der im Frühjahr gut geprüft wurde, kann im Herbst andere Ergebnisse liefern. Eine Durchsicht aller Agenten einmal im Quartal gehört deshalb genauso zur KI-Governance wie die Freigabe vor dem Start.

Was sollten Geschäftsführungen jetzt prüfen?

  • Eine Frage: In welchen Bereichen entscheiden Systeme bei uns heute schon selbst, und wer hat diese Grenze gezogen?
  • Eine Kennzahl: der Anteil automatisierter Entscheidungen, die ein Mensch nachträglich korrigiert.
  • Ein Gespräch: mit den Bereichsleitungen darüber, wo sie einem System mehr Spielraum geben würden und wo ausdrücklich nicht.

Häufige Fragen

Was bedeutet KI-Governance?

KI-Governance umfasst die Regeln, Zuständigkeiten und Kontrollen, mit denen ein Unternehmen festlegt, wofür KI eingesetzt wird, wie weit sie selbst entscheiden darf und wer dafür verantwortlich ist.

Wer ist für KI-Governance verantwortlich?

Die Geschäftsführung. Sie kann Aufgaben an ein KI-Gremium oder an die Fachbereiche übertragen, die Verantwortung für den Rahmen bleibt aber bei ihr. Beirat oder Aufsichtsrat überwachen, ob dieser Rahmen existiert und eingehalten wird.

Warum hat KI-Governance mit Vertrauen zu tun?

Mitarbeitende überlassen einem System nur dann Arbeit, wenn sie wissen, wo seine Grenzen liegen und wer eingreift, wenn etwas schiefgeht. Klare Regeln schaffen dieses Vertrauen schneller als jede Schulung.

Wie oft sollte KI-Governance überprüft werden?

Mindestens einmal im Jahr und immer dann, wenn ein System neue Aufgaben übernimmt, ein Modell gewechselt wird oder ein relevanter Vorfall passiert. Grenzen, die beim Start richtig waren, passen zwei Jahre später selten noch.

Quellen: von Garrel, J. & Vrga, L. (2026): Eine globale Analyse von Leitlinien zum Umgang mit Künstlicher Intelligenz in Unternehmen. Springer Gabler

Ähnliche Beiträge