KI-Governance wandert vom Dokument in den Betrieb.

Ihr Unternehmen nutzt vermutlich mehr KI, als Sie denken.

Jemand verwendet ChatGPT. Die Entwicklung nutzt Copilot oder einen anderen Programmieragenten. Das Marketing arbeitet mit einem Bildmodell. Der Kundenservice testet einen Assistenten. Ein SaaS-Anbieter hat Ihre bereits gekaufte Software unbemerkt um KI ergänzt. Ein Team verbindet einen Agenten mit Salesforce, E-Mail, Dateien oder dem Einkauf. Keines dieser Systeme wartet auf die jährliche Sitzung des Governance-Gremiums.

Darin liegt das Problem.

Bei der ersten Generation betrieblicher KI ließ sich Governance als Regelwerk für überschaubare Modelle und Anwendungen behandeln. Die nächste Generation verändert das. KI-Systeme rufen zunehmend Daten ab, nutzen Werkzeuge, koordinieren andere Agenten, erstellen Inhalte, beeinflussen Entscheidungen und handeln teilweise selbst. Das Agent2Agent-Protokoll (A2A) regelt die Zusammenarbeit zwischen Agenten. Google entwickelte es; heute betreut die Linux Foundation den als produktionsreifen offenen Standard veröffentlichten Ansatz. MCP vereinheitlicht, wie KI-Anwendungen und Agenten auf externe Ressourcen und Werkzeuge zugreifen. OWASPs Leitlinien für agentische KI von 2026 behandeln diese Gefahren als betriebliche Sicherheitsprobleme. Dazu zählen manipulierte Ziele, Werkzeugmissbrauch, Identitäts- und Berechtigungsmissbrauch, Lieferkettenlücken und übermäßige Handlungsfreiheit.

Quellenkontext: MCP · authorization specification · 2026-07-28 ↗ · Agent2Agent · v1.0 specification ↗

Governance muss deshalb vom Dokument zur Disziplin im laufenden Betrieb werden.

Ein herkömmliches Governance-Programm stellt sinnvolle Fragen:

Welche KI-Systeme nutzen wir? Wer ist dafür verantwortlich? Welche Daten verarbeiten sie? Welche Risiken bestehen? Welche Richtlinien und Vorschriften sind relevant? Wurde das System vor dem Einsatz bewertet?

Diese Fragen bleiben notwendig. ISO/IEC 42001:2023 beschreibt ein KI-Managementsystem mit Richtlinien, Zielen, Prozessen, Risikomanagement und kontinuierlicher Verbesserung. Auch NISTs AI Risk Management Framework und sein Generative AI Profile betonen Risiken für die Vertrauenswürdigkeit im gesamten KI-Lebenszyklus.

Quellenkontext: ISO/IEC 42001:2023 ↗

Ein statisches Register beantwortet jedoch keine dynamische Frage:

Was darf dieses System jetzt mit diesen Daten für diesen Nutzer unter diesen Bedingungen tun?

Operative KI-Governance verbindet mindestens neun Bereiche, die häufig getrennt verwaltet werden:

1. GESCHÄFTSZIEL – Welches Ergebnis wollen wir erreichen?
2. KI-LANDSCHAFT – Welche Modelle, Agenten, Datensätze, Werkzeuge und Anbieter sind beteiligt?
3. ROLLEN VON MENSCH UND KI – Was entscheidet ein Mensch? Was empfiehlt die KI? Was bereitet sie vor oder führt sie aus?
4. BEFUGNISSE – Was wurde dem System tatsächlich erlaubt?
5. DATEN UND KONTEXT – Welche Informationen darf es lesen, speichern, ableiten oder offenlegen?
6. NACHWEISE – Welche wichtigen Aussagen sind belegt, unsicher, widersprüchlich oder unbelegt?
7. HANDLUNGEN – Was kann das System in der realen Welt verändern?
8. WIRTSCHAFTLICHKEIT – Welchen Wert erwarten wir? Was kostet der Einsatz? Was wurde tatsächlich beobachtet?
9. VERÄNDERUNGEN – Was geschieht, wenn sich Modell, Anbieter, Vorschriften, Arbeitsablauf, Befugnisse oder Beleglage ändern?

Das ähnelt eher einem Betriebssystem als einer Checkliste.

Bei ETHORITY gilt ein einfacher Verfassungsgrundsatz: Fähigkeit ist keine Befugnis. Ein Agent kann technisch E-Mails versenden, CRM-Einträge verändern oder Bestellungen auslösen. Damit ist er dazu noch nicht berechtigt. Ebenso ist eine Quellenaussage kein verifizierter Nachweis. Modellierter Wert ist kein realisierter Wert. Eine erfolgreich ausgeführte Softwareaktion beweist nicht, dass das beabsichtigte Geschäftsergebnis eingetreten ist.

Stellen Sie sich einen Kundenservice-Agenten vor, der Tickets liest, Richtlinien durchsucht, Bestellverläufe abfragt, Erstattungen vorbereitet und Nachrichten versendet.

Ein Inventar kann zeigen, dass dieser Agent existiert. Eine Risikobewertung kann seine Bedeutung einordnen. Eine Richtlinie kann festlegen, dass hohe Erstattungen genehmigt werden müssen.

Operative Governance muss den nächsten Schritt durchsetzen:

Eine Erstattung von 20 € darf möglicherweise automatisch vorbereitet werden. Eine Erstattung von 2.000 € kann eine menschliche Freigabe erfordern. Eine Anfrage mit widersprüchlichen Nachweisen kann zurückgestellt werden. Ein durch Prompt Injection manipuliertes Dokument darf Kontext liefern, aber keine Anweisungsbefugnis erhalten. Wird eine Berechtigung widerrufen, muss sich der Handlungsspielraum des Agenten verkleinern. Scheitert die Verarbeitung einer Einstufung sensibler Daten, dürfen dadurch keine schwächeren Kontrollen entstehen.

Deshalb geht es bei Agenten-Governance grundlegend um Befugnisse, Kontext und Zustand. Die Modellqualität allein reicht nicht.

Der EU AI Act macht diesen Übergang sichtbar. Artikel 4 verpflichtet Anbieter und Betreiber, KI-Kompetenz zu fördern. Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026 für die jeweils betroffenen Anbieter und Betreiber generativer KI. Dazu gehören Vorgaben zur Kennzeichnung bestimmter KI-generierter oder manipulierter Inhalte. Der Transparenzkodex der Kommission bietet einen freiwilligen Weg zur Unterstützung der Pflichterfüllung.

Quellenkontext: EU AI Act · consolidated 2026-07-27 ↗

Die praktische Lehre reicht über einzelne Artikel hinaus. Entscheidend ist zunehmend, was Systeme im Betrieb tatsächlich tun und was Organisationen belegen können. Ebenso zählt ihre Reaktion auf veränderte Systeme oder Pflichten.

Eine im Januar geschriebene Richtlinie zeigt nicht, ob ein Anbieter sein Modell im September verändert hat. Ein Inventar zeigt nicht, ob ein Agent ein neues Werkzeug erhalten hat. Ein Risikowert zeigt nicht, ob die zugrunde liegenden Nachweise abgelaufen sind. Ein Zertifikat betreibt Ihre KI-Landschaft nicht für Sie. Auch Erkenntnisse aus Benchmarks und Evaluationen gehören in denselben betrieblichen Kreislauf. Eine Rangliste, Anbieterangabe oder externe Evaluation ist eine datierte Quelle mit eigener Methode und begrenztem Aussageumfang. Sie sollte die Beleglage einer Entscheidung aktualisieren. Daraus entsteht weder ein universeller Vertrauenswert noch ein Urteil über die Eignung für einen Kunden. Wesentliche Änderungen an Modellen, Anbietern, Evaluationen und Nachweisen sollten eine Prüfung betroffener Annahmen und Abhängigkeiten auslösen.

Ein weiterer Grund spricht für operative Governance: Bleibt sie vom Geschäftswert getrennt, wird sie irgendwann umgangen.

Die richtige Frage lautet nicht nur: „Ist diese KI kontrolliert?“

Sie lautet:

Welches Geschäftsergebnis wollen wir erreichen? Welche Befugnisse rechtfertigt dieses Ziel? Welche Nachweise stützen die Entscheidung? Welche Kontrollen brauchen wir? Was haben wir tatsächlich erreicht?

Das verändert die Rolle der Governance. Sie ist nicht länger die Abteilung, die nach der KI-Idee hinzukommt. Sie wird Teil betrieblicher Entscheidungen: Was entwickeln, kaufen, verbinden, automatisieren, beenden oder erweitern wir? Operative KI-Governance verhindert nicht nur Fehler. Sie gehört zum betrieblichen Fundament, das KI-Skalierung mit Verantwortung verbindet. McKinseys Befragung zur operativen Exzellenz von 2026 beschreibt einen Zusammenhang zwischen stärker aufgestellten betrieblichen Systemen, stärkerem KI-Einsatz und höherer Leistung. Dazu zählen klare Ziele, Kennzahlen, Echtzeitdaten, Ressourcenzuordnung, Entscheidungsrechte und kontinuierliches Lernen. Diese Befunde zeigen Zusammenhänge, keine Ursachen. Die betriebliche Folgerung bleibt hilfreich: Eine Richtlinie betreibt keine KI-Landschaft. Die Organisation braucht einen Leistungskreislauf aus Vorhaben, Arbeitsgestaltung, Daten, Befugnissen, Ausführung, Beobachtung, Wirtschaftlichkeit und Verbesserung.

Eine hilfreiche betriebliche Kette lautet:

VORHABEN → FÄHIGKEIT → ROLLE VON MENSCH UND KI → BEFUGNIS → DATEN- UND WERKZEUGZUGRIFF → AUSFÜHRUNG → BEOBACHTUNG → NACHWEIS → ERGEBNIS → WIRTSCHAFTLICHER WERT → VERÄNDERUNG UND LERNEN

Jeder Pfeil zählt.

Fehlt die Befugnis, stoppen Sie. Ist die Beleglage schwach, schränken Sie die Schlussfolgerung entsprechend ein. Werden Daten sensibler, dürfen Kontrollen nicht schwächer werden. Verschlechtert sich der wirtschaftliche Fall, darf die Empfehlung nicht auf unerklärliche Weise stärker werden. Ändert sich der Anbieter, prüfen Sie die Abhängigkeit neu. Wurde das Geschäftsergebnis nicht beobachtet, bezeichnen Sie modellierte Rendite nicht als realisierten Wert.

Ein guter Einstieg ist eine Entscheidung, für die bereits jemand Verantwortung trägt. Im Kundenservice kann es darum gehen, ob ein Assistent eine Erstattung vorschlagen, eine Adresse ändern oder eine Beschwerde abschließen darf. Im Einkauf ist entscheidend, ob das System einen Lieferantenvergleich vorbereitet oder das Unternehmen durch eine Bestellung verpflichtet. Dafür gelten unterschiedliche Berechtigungen, selbst wenn im Hintergrund dasselbe Modell arbeitet. Beschreiben Sie die Grenze zunächst verständlich und verbinden Sie sie anschließend mit den Systemen, die sie durchsetzen.

Ein praktischer Workshop sollte wenige klare Aussagen hervorbringen: das angestrebte Ergebnis, die verantwortliche Person, die benötigten Informationen, die erlaubten Handlungen und die Situationen, die eine weitere Entscheidung verlangen. Das ist hilfreicher als der Versuch, zuerst eine universelle Definition vertrauenswürdiger KI zu verabschieden. Beteiligte können einen allgemeinen Begriff unterschiedlich verstehen und sich dennoch darauf einigen, dass eine Erstattung oberhalb eines vereinbarten Betrags eine benannte Freigabe benötigt.

Zum Arbeitsauftrag gehört außerdem, wer von der Verbesserung profitiert und wer die Folgen eines Fehlers trägt. Ein Serviceleiter gewinnt möglicherweise Kapazität, während ein einzelner Kunde unter einer falschen Ablehnung leidet. Diese ungleiche Verteilung verändert den Prüfbedarf. Eine Kontrolle, die ausschließlich den durchschnittlichen Unternehmenserfolg schützt, kann Menschen in ungewöhnlichen Fällen übersehen. Deshalb müssen die Erwartungen an Qualität und Widerspruchsmöglichkeiten vor dem Einsatz besprochen werden.

In einem hypothetischen Handelsunternehmen liest ein Assistent die Rückgaberichtlinie und die Bestellhistorie. Laut Richtlinie darf ungeöffnete Ware zurückgegeben werden; im Lagerprotokoll steht, das zurückgesandte Paket sei geöffnet worden. Ein nützliches Ergebnis erklärt diesen Widerspruch knapp und verweist auf beide Unterlagen. Der Assistent bereitet den Fall für die zuständige Person vor, statt stillschweigend die bequemere Quelle zu wählen.

Nun enthält ein abgerufenes Dokument die Aufforderung, die Erstattungsgrenze zu ignorieren. Dieser Satz ist Inhalt einer Unterlage und keine Berechtigung. Die technische Umsetzung sollte Anweisungen aus nicht vertrauenswürdigen Dokumenten als Daten behandeln und jede vorgeschlagene Handlung gegen unabhängig verwaltete Befugnisse prüfen. Zum Test gehören dieser Angriffsfall, ein gesperrtes Konto, ein ausgefallener Richtliniendienst und eine wiederholte Anfrage. Die erwarteten Ergebnisse unterscheiden sich: die eingeschleuste Anweisung zurückweisen, gesperrten Zugriff verweigern, die fehlende Voraussetzung erklären und eine doppelte Erstattung verhindern.

Nach dem Test muss nachvollziehbar sein, welche Richtlinienversion verwendet wurde, welche Handlung vorgesehen war, wer sie freigegeben hat und ob das Zahlungssystem sie tatsächlich ausgeführt hat. Eine generierte Antwort mit dem Wort „erstattet“ reicht nicht aus. Solange das nachgelagerte System den Abschluss nicht bestätigt, muss die Auskunft gegenüber dem Kunden diesen Zustand richtig wiedergeben. So wird aus einem Governance-Grundsatz ein Verhalten, das die Serviceverantwortlichen überprüfen können.

Die Unterscheidung gilt auch bei einer Unterbrechung. Ein abgebrochener Aufruf kann eine bereits erfolgte Zahlung hinterlassen. Bevor das System einen erneuten Versuch startet, muss es den tatsächlichen Zustand abgleichen. Sonst führt eine vermeintliche technische Fehlerbehebung zu einem zweiten Geschäftsvorgang. Das lässt sich mit klaren Vorgangskennungen und einer kontrollierten Wiederaufnahme erproben, ohne den Assistenten selbst über den Zahlungsstatus entscheiden zu lassen.

Governance verursacht laufende Arbeit: Berechtigungen pflegen, Ausnahmen prüfen, Dokumente aktualisieren, Änderungen testen und betroffene Menschen unterstützen. Diese Aufwände gehören neben Lizenzen und Integration in die Wirtschaftlichkeitsrechnung. Spart ein Assistent Zeit beim Formulieren und erzeugt zugleich eine große Warteschlange schwieriger Fälle, wird Arbeit möglicherweise nur verlagert. Betrachten Sie den gesamten Ablauf einschließlich der Korrektur überzeugend formulierter, aber unbelegter Antworten.

Nutzen Sie einen Ausgangswert und einen klaren Beobachtungszeitraum. Vergleichen Sie akzeptierte Fälle, wiedereröffnete Vorgänge, Beschwerden, Prüfminuten und die gesamten Servicekosten. Trennen Sie potenziell frei werdende Zeit von tatsächlich eingespartem Geld. Ein Team kann gewonnene Kapazität für besseren Service einsetzen, ohne die Ausgaben zu senken. Das kann sinnvoll sein, ist aber ein anderes Ergebnis. Die geplante Verwendung dieser Kapazität sollte feststehen, bevor daraus ein finanzieller Nutzen abgeleitet wird.

Ebenso wichtig ist eine Abbruchregel. Benennen Sie, wer den betroffenen Ablauf unterbrechen darf, wenn Nachweise nicht erreichbar sind, eine Handlung ihre Befugnis überschreitet oder ein schwerer Schaden erkannt wird. Eine auf einzelne Handlungen begrenzte Sperre kann hilfreiche lesende Unterstützung erhalten. Die Entscheidung sollte sich an Folgen und Abhängigkeiten orientieren. Ein Problem mit einer Schnittstelle muss nicht zwangsläufig sämtliche KI-Funktionen stilllegen.

Ein Modellwechsel, eine neue Schnittstelle oder ein größerer Nutzerkreis kann eine frühere Bewertung entwerten. Führen Sie eine Änderungsliste, die Abhängigkeiten mit den unterstützten Entscheidungen verbindet. Ändert ein Anbieter seine Aufbewahrungsbedingungen, lassen sich die betroffenen Datenflüsse zuordnen. Erhält ein bisher lesender Ablauf Schreibrechte, ist der frühere Lesetest kein ausreichender Nachweis für diese neue Handlung.

Verwenden Sie repräsentative Fälle aus dem tatsächlichen Arbeitsprozess. Dazu gehören schwierige Sprachvarianten, fehlende Unterlagen und seltene Ausnahmen. Vertrauliches Material bleibt in der geschützten Umgebung des Unternehmens. Vergleichen Sie die neue Fassung mit dem akzeptierten Ausgangsstand und begründen Sie geänderte Schwellenwerte. Ein bestandener Test ersetzt keine verantwortliche Freigabeentscheidung, sondern verbessert deren Grundlage.

Legen Sie zudem fest, wie Erkenntnisse zurück in die Arbeitsgestaltung gelangen. Wenn Beschäftigte regelmäßig dieselbe Ausnahme melden, ist möglicherweise die Richtlinie unklar oder eine Quelldatei veraltet. Nicht jedes Problem verlangt ein leistungsfähigeres Modell. Manchmal ist eine verständliche Regel, ein besser gepflegter Wissensbestand oder eine andere Aufgabenverteilung die wirksamere Verbesserung. Diese Rückkopplung verbindet Governance mit dem tatsächlichen Betrieb.

Geht es darum, Zweck, Nachweise und Verantwortung eines einzelnen Systems zu ordnen, prüfen Sie den Umfang des AI Trust Record. Soll ein einzelner Anwendungsfall mit einer begrenzten Prüfung und einer Abbruchregel erprobt werden, ist der AI Trust Pilot der passendere Gesprächseinstieg. Beides sind anfragbare Beratungsleistungen. Sie kaufen damit weder ein positives Verifizierungsergebnis noch eine automatische Softwareaktivierung.

Zur ersten Orientierung dient das Good AI Prisma. Vergleichen Sie die belegten Anbieterangaben, bevor Sie ein Produkt auswählen. Bringen Sie einen konkreten Ablauf, die gewünschte Handlung und die heute fehlenden Nachweise in das Gespräch ein. Das Ziel ist eine nachvollziehbare betriebliche Entscheidung mit klarer Verantwortung, die sich bei Änderungen erneut prüfen lässt.

Für Nutzer könnte sich die beste Governance künftig überraschend leicht anfühlen.

Führungskräfte sollten die anstehende wesentliche Entscheidung sehen. Teams sollten den nächsten erlaubten Schritt erkennen. Agenten sollten ihre tatsächlich erteilten Befugnisse kennen. Prüfende sollten die Nachweiskette nachvollziehen können. Sicherheitsteams sollten den möglichen Schadensumfang sehen. Finanzverantwortliche sollten modellierten und beobachteten Wert unterscheiden können. Kunden sollten genügend Herkunftsinformationen erhalten, um das Vertrauen in eine Empfehlung einzuordnen.

Die Technik darunter kann komplex sein. Kunden sollten keine Fachleute für KI-Governance werden müssen, um sie zu nutzen.

Diese Richtung verfolgt ETHORITY: Governance als Integritätsschicht innerhalb betrieblicher Software für KI-Entscheidungen und KI-Betrieb. Sie verbindet Entscheidung, Befugnisse, Nachweise und Arbeit.

Nicht, weil Governance weniger wichtig wäre.

Sondern weil sie zu wichtig ist, um ein Dokument zu bleiben.