Vertrauen und konsequenter KI-Einsatz sind eine Aufgabe.

Noch vor wenigen Jahren klang die Debatte über KI oft so, als müsse man sich entscheiden.

Schnell vorankommen – oder verantwortlich handeln. Innovieren – oder regulieren. KI vertrauen – oder sie ausbremsen.

Diese Gegenüberstellung hat mich nie überzeugt.

Wenn KI so weitreichende Folgen hat, wie wir annehmen, werden jene Organisationen den größten Wert schaffen, die sich nicht für eine Seite entscheiden. Sie werden lernen, schneller voranzukommen, weil sie verstehen, steuern und verbessern können, was sie tun.

Diese Spannung stand hinter einem ETHORITY-Papier, das ich 2024 begann: Can We Trust AI versus All-In on AI. Seitdem ist die Frage dringlicher geworden. KI hat sich von Modellen, die vor allem Inhalte erzeugten, zu Systemen entwickelt, die Unternehmensdaten abrufen, Code schreiben, Werkzeuge nutzen, Agenten koordinieren und in den Arbeitsalltag hineinwirken.

Heute würde ich die Frage deshalb anders formulieren:

Können wir Organisationen aufbauen, die ehrgeizig genug sind, konsequent auf KI zu setzen – und zugleich diszipliniert genug, um zu wissen, was tatsächlich geschieht?

Konsequent auf KI zu setzen bedeutet nicht, in jeden Prozess ein Modell einzubauen.

Manchmal ist Automatisierung ohne KI die richtige Antwort. Manchmal sollte zuerst gemessen werden. Manchmal braucht es eine bessere Regel, einen besseren Arbeitsablauf oder eine bessere Datenbank. Manchmal muss menschliches Urteilsvermögen im Mittelpunkt bleiben. Und manchmal ist KI der offensichtliche Weg zu einer grundlegenden Verbesserung.

Eine AI-first-Organisation ist daher keine Organisation, die möglichst viel KI einsetzt. Sie kann vielmehr immer wieder folgende Fragen beantworten:

Wo kann KI einen wesentlichen Wertbeitrag leisten? Was sollten wir selbst entwickeln, einkaufen oder anbinden? Was sollte in menschlicher Hand bleiben? Welche Daten und Befugnisse benötigt das System? Welche Belege stützen die Entscheidung? Was wird es kosten? Welches Ergebnis wollen wir verändern? Was haben wir tatsächlich beobachtet?

Das ist eine deutlich anspruchsvollere Definition als „Wir haben Copilot-Lizenzen“.

Das Wort Vertrauen ist problematisch, weil es nach einer binären Entscheidung klingt.

Vertrauenswürdig. Nicht vertrauenswürdig. Grün. Rot. Sicher. Unsicher.

Reale Organisationen funktionieren anders.

Ein Modell kann sich dafür eignen, öffentliche Dokumente zusammenzufassen, und zugleich ungeeignet sein, eine Personalempfehlung mit weitreichenden Folgen abzugeben. Ein Agent darf möglicherweise eine Kundenantwort entwerfen, sie aber nicht versenden. Ein Anbieter kann über eine überzeugende Sicherheitsdokumentation verfügen und dennoch wenig Transparenz über Evaluationsdaten bieten. Ein Business Case kann attraktiv wirken und zugleich von einer Ausgangsbasis abhängen, die noch gar nicht gemessen wurde.

In der Praxis hängt Vertrauen vom Kontext und vom Zeitpunkt ab.

Deshalb brauchen wir mehr als ein Abzeichen. Wir brauchen Belege, klare Befugnisse und fortlaufende Beobachtung.

Bei ETHORITY arbeiten wir zunehmend mit Unterscheidungen, die einfach klingen, aber das Verhalten verändern:

FÄHIGKEIT ≠ BEFUGNIS. AUSSAGE EINER QUELLE ≠ VERIFIZIERTE TATSACHE. EVIDENZ ≠ VERIFIZIERUNG. MODELLIERTER WERT ≠ REALISIERTER WERT. AUSFÜHRUNG ≠ ERGEBNIS.

Diese Unterscheidungen verhindern, dass sich Organisationen eine Gewissheit einreden, die sie noch nicht begründet haben.

Die schlechteste Form von Governance ist eine, die erst nach der Entscheidung einsetzt.

Ein Team entwickelt drei Monate lang einen Prototyp. Dann kommen Recht, Sicherheit, Risikomanagement und Governance mit jeweils eigenen Fragebögen hinzu. Niemand kann die Datenquellen nachvollziehen. Niemand weiß, welche Modellversion getestet wurde. Der ursprüngliche Business Case ist bereits überholt. Aus dem Pilotprojekt wird ein politischer Streit.

Das ist keine verantwortungsvolle KI. Es ist eine schlechte Gestaltung des Betriebs.

Der bessere Ansatz verbindet geschäftlichen Anspruch, Gestaltung, Befugnisse, Evidenz und Wirtschaftlichkeit von Anfang an.

MISSION → GESTALTEN → SIMULIEREN → AUTORISIEREN → AUSFÜHREN → BEOBACHTEN → VERIFIZIEREN → WERT → VERBESSERN.

Governance wird damit Teil der Arbeitsweise der Organisation und keine parallele Bürokratie.

ISO/IEC 42001 ist hier hilfreich, weil die Norm KI-Governance als Managementsystem beschreibt, das eingerichtet, aufrechterhalten und fortlaufend verbessert werden muss. Die Readiness-Arbeit der UNESCO ist aus einem anderen Grund nützlich: Sie betrachtet Bereitschaft als mehrdimensional – rechtlich, gesellschaftlich, wirtschaftlich, wissenschaftlich und bildungsbezogen sowie technisch – und fragt, ob Systeme und Regeln wirksam sind, statt nur danach, ob sie existieren.

Quellenkontext: ISO/IEC 42001:2023 ↗

Aber kein externer Rahmen kann das Unternehmen für uns führen. Das Unternehmen muss diese Arbeitsweise selbst entwickeln.

Eine der überraschendsten Lücken in der KI-Governance ist, wie oft der geschäftliche Wert als Aufgabe anderer behandelt wird.

Governance-Teams fragen nach Risiken. Technologieteams fragen nach Fähigkeiten. Finance fragt nach Kosten. Fachbereiche fragen nach Wachstum oder Einsparungen.

Am Ende verwendet jede Gruppe ein anderes Bild der Wirklichkeit.

Wenn verantwortungsvolle KI auch in Entscheidungen der Unternehmensführung Bestand haben soll, gehört Wirtschaftlichkeit in denselben Regelkreis.

Ein KI-Projekt sollte ein Geschäftsziel, eine Ausgangsbasis, eine Werthypothese, ein Kostenmodell, Anforderungen an Belege und einen Weg vom modellierten zum beobachteten und zurechenbaren Wert haben.

Andernfalls kann Governance ein Projekt schützen, das nie hätte finanziert werden sollen – oder ein Projekt beenden, weil niemand seinen Wert klar genug beschrieben hat.

Ein Unternehmen benötigt keine einheitliche Antwort auf „Vertrauen wir KI?“. Es braucht eine Antwort für eine bestimmte Aufgabe unter bestimmten Bedingungen. Dasselbe System kann für die Vorbereitung einer Besprechungsnotiz hilfreich, für die eigenständige Entscheidung über einen Streitfall ungeeignet und für die Offenlegung vertraulicher Unterlagen unzulässig sein. Das sind unterschiedliche Entscheidungen über Nachweise, Befugnisse und Folgen. Ein allgemeines Vertrauensetikett verdeckt diese Unterschiede.

Klären Sie zuerst, welche Verpflichtung Sie erwägen. Dürfen Beschäftigte ein Werkzeug ausprobieren? Wird ein Abonnement gekauft? Sollen interne Daten verbunden, Empfehlungen übernommen oder Handlungen freigegeben werden? Jeder Schritt verändert die maßgeblichen Fragen. Ein erfolgreicher Versuch mit öffentlichen Informationen rechtfertigt nicht automatisch den Zugriff auf Kundendaten. Eine nützliche Empfehlung begründet noch keine Ausführungsbefugnis.

Dieses begrenzte Vorgehen ermöglicht ambitionierte Arbeit. Teams können bei umkehrbaren Aufgaben mit ausreichender Grundlage zügig vorgehen und bei größeren Folgen sorgfältiger prüfen. Es geht darum, die nächste Erlaubnis ausdrücklich zu bestimmen. Eine konkrete Grenze lässt sich leichter verbessern als ein allgemeines Urteil darüber, ob eine Technologie umfassendes Vertrauen verdient.

Ein hypothetischer Dienstleister bereitet Antworten auf Anfragen zur Vertragsverlängerung vor. Zunächst ruft der Assistent freigegebene Bedingungen ab und entwirft eine Nachricht. Eine Person prüft die Quelle und versendet sie. Das Team misst, ob die Entwürfe vollständig, korrekt und den Prüfaufwand wert sind. Es hält auch Fälle fest, in denen der Assistent sinnvoll um Klärung bittet.

Bei überzeugenden Nachweisen könnte der nächste Schritt eine eng begrenzte automatische Antwort für einfache Anfragen sein. Dafür braucht es eine neue Entscheidung: Welche Anfragen sind geeignet? Welche Angaben darf das System offenlegen? Wie wird der Empfänger erkannt? Wann übernimmt ein Mensch? Die frühere Bewertung von Entwürfen hilft bei der Einordnung, beweist aber weder Sicherheit noch rechtliche Zulässigkeit dieser neuen Handlung.

Testen Sie außerdem eine falsche Kundenzuordnung, widersprüchliche Vertragsfassungen und einen ausgefallenen Dokumentenspeicher. Solche Fälle zeigen, ob das System seine Grenze einhält. Ein gutes Ergebnis kann die verständliche Übergabe an einen Menschen sein. Würde jede Eskalation als Fehler gezählt, würde das den Assistenten gerade für unbelegte Entscheidungen belohnen.

Zum Vergleich gehört auch der gewöhnliche Arbeitsweg. Wie würde eine erfahrene Person denselben unklaren Vorgang behandeln? Wo bestehen bereits heute Wartezeiten oder fehlerhafte Daten? Das entschuldigt keine zusätzlichen KI-Fehler, verhindert aber einen ungeeigneten Vergleich mit einer idealisierten Alternative. Verbessert werden soll der tatsächliche Prozess mit seinen realen Bedingungen.

Eine Anbieteraussage belegt zunächst, was der Anbieter erklärt. Ein technischer Test zeigt, was unter den getesteten Bedingungen geschah. Eine kontrollierte betriebliche Beobachtung ergänzt Wissen über einen bestimmten Ablauf. Für ein Geschäftsergebnis braucht es eine weitere Verbindung zu Qualität, Kosten, Nachfrage oder Risiko. Jeder Übergang verlangt eine Erklärung. Die Stärke der Formulierung muss zur Tragfähigkeit der Grundlage passen.

Ein Zeitgewinn bei einer definierten Tätigkeit belegt beispielsweise keine unternehmensweite Produktivitätssteigerung. Eine erfolgreiche Untersuchung im Kundenservice beweist nicht denselben Effekt in einer anderen Sprache, Branche oder Organisation. Die NBER-Arbeit zu generativer Unterstützung ist gerade dann nützlich, wenn Umfeld und Messgröße beim Befund bleiben. Lesen Sie die Originalstudie, bevor eine Prozentzahl in einen eigenen Geschäftsfall übernommen wird.

Nutzen Sie Unsicherheit zur Bestimmung des nächsten Tests. Ist die Akzeptanz durch Beschäftigte unklar, beobachten Sie die Arbeit. Sind vertragliche Löschregeln unklar, beschaffen Sie die einschlägigen Bedingungen. Ist eine Befugnisgrenze entscheidend, prüfen Sie sie unabhängig. Der allgemeine Hinweis, KI könne Fehler machen, hilft weniger als die konkrete Fehlerart, die Ihre Entscheidung verändern würde.

Ein ernsthaftes Vorhaben lässt sich in Stufen organisieren: Budget für Orientierung, ein definierter Pilot und eine Entscheidung zur Ausweitung. Jede Stufe erhält die Annahmen, die sie klären soll. So entsteht Raum für Lernen, ohne bereits ausgegebenes Geld als Grund für die Fortsetzung zu behandeln. Ein Team darf feststellen, dass ein Ansatz ungeeignet ist, und trotzdem nützliche Arbeit abgeschlossen haben.

Die Abbruchregel berücksichtigt Qualität, betroffene Menschen und Betriebsaufwand. Ein Szenario kann attraktiv wirken, bis die erforderliche Prüfung es unwirtschaftlich macht. Ein anderes lohnt sich durch besseren Zugang oder Service, obwohl direkte Kostensenkungen gering bleiben. Vereinbaren Sie das maßgebliche Ziel, statt den Nutzen nach Sichtung des Ergebnisses neu zu definieren.

Erhalten Sie einen gewöhnlichen Ersatzweg. Beschäftigte müssen bei Anbieterausfall oder pausierter Schnittstelle weiterarbeiten können. Dieser Weg sollte nicht von derselben ausgefallenen Komponente abhängen. Hat ein System möglicherweise bereits extern gehandelt, beginnt die Wiederaufnahme mit dem Abgleich des tatsächlichen Zustands. Eine ungeprüfte Wiederholung kann aus einer kleinen Störung einen größeren Geschäftsvorfall machen.

Vertrauen in einen Einsatz umfasst seine Pflegefähigkeit. Wer verantwortet Quelldokumente? Wer prüft Anbieteränderungen? Wer bearbeitet Beschwerden? Wer kann eine Berechtigung zurücknehmen? Ein Werkzeug kann in einem intensiv betreuten Piloten gut funktionieren und trotzdem ungeeignet sein, wenn diese Zuständigkeiten mit dem Projektteam verschwinden.

Rechnen Sie die Unterstützung mit. Nutzung, menschliche Prüfung, Schulung, Wartung und Ausstieg gehören in dieselbe Betrachtung. Halten Sie Zeitraum und Einheit beim Vergleich konstant. Potenzielle Kapazitätsgewinne bleiben von realisierten Einsparungen getrennt. Niedrigere Kosten je akzeptiertem Ergebnis sind nur aussagekräftig, wenn Abnahmeregel und Kostenumfang gleich bleiben.

Die Wirtschaftlichkeitsseite unterstützt die Untersuchung eines Szenarios. Das Good AI Prisma hilft beim Prüfen möglicher Angebote und dokumentierter Bedingungen. Beides ersetzt keine Entscheidung über Ihren eigenen Einsatz. Der Nutzen liegt darin, Frage und Abhängigkeiten vor einer größeren Verpflichtung zu klären.

Eine brauchbare Verpflichtung benennt auch Nachweise, die zum Überdenken führen würden. Das kann ein Qualitätsfehler, eine wesentliche Vertragsänderung oder eine Folge außerhalb der erlaubten Grenze sein. Diese Festlegung ist stärker als die allgemeine Aussage, das Projekt werde überwacht. Sie verbindet Beobachtung mit einer Entscheidung, die jemand tatsächlich treffen kann.

Benennen Sie ebenso, was mehr Verantwortung rechtfertigen würde. Ein Pilot, der nur widerlegt werden kann, bleibt möglicherweise vorsichtig, aber unproduktiv. Ein Versuch, der ausschließlich positive Nachweise erzeugen kann, ist nicht aussagekräftig. Vereinbaren Sie Qualität und Betriebsbedingungen für eine begrenzte Erweiterung. Derselbe Maßstab gilt auch bei wachsender Begeisterung oder kaufmännischem Druck.

Unterscheiden Sie in der Besprechung eine fehlende Tatsache von einem gescheiterten Test. Fehlende Information kann eine Anbieterfrage verlangen. Eine nachgewiesene Berechtigungslücke verlangt Korrektur und erneute Prüfung. Unterschiedliche Reaktionen ermöglichen ambitioniertes Vorgehen mit ernst genommener Grundlage. Vertrauen entsteht aus erklärbaren Entscheidungen und nicht nur daraus, dass niemand Probleme gemeldet hat. Eine verantwortliche Person hält diese Entscheidungen zusammen und sorgt dafür, dass spätere Änderungen ihren Bezug nicht verlieren.

Ein AI Decision Brief passt zu einer begrenzten Optionsfrage. Ein AI Trust Record ordnet Nachweise und Verantwortung für ein benanntes System. Ein AI Trust Pilot betrifft einen abgegrenzten Anwendungsfall mit vereinbarten Prüfbedingungen. Diese Leistungen verfolgen unterschiedliche Zwecke. Keine verkauft ein allgemeines Vertrauensurteil.

Bringen Sie Aufgabe, mögliche Fehlerfolge und anstehende Entscheidung mit. Ein nützliches Gespräch kann in einen kleineren Versuch, eine konkrete Nachweisfrage, eine Prozessänderung oder eine Entscheidung gegen KI münden. Sich konsequent auf KI einzulassen sollte bedeuten, die eigene Lern- und Handlungsfähigkeit zu entwickeln. Es bedeutet nicht, jedem Werkzeug sämtliche Rechte einzuräumen oder Begeisterung als Beweis zu behandeln.

Modelle werden sich weiter verbessern. Werkzeuge werden leichter zugänglich. Agentenprotokolle werden Integrationen stärker standardisieren. Die Kosten der Softwareentwicklung verändern sich bereits.

Die knappe Fähigkeit wird zunehmend eine organisatorische sein:

Können wir die richtigen Chancen erkennen? Können wir die richtigen Systeme zusammenstellen? Können wir KI genügend Befugnisse geben, damit sie nützlich ist, ohne ihr unbegrenzte Erlaubnis zu erteilen? Können wir belegen, was zählt? Können wir erkennen, wenn sich etwas verändert? Können wir technische Fähigkeiten in dauerhafte wirtschaftliche Ergebnisse übersetzen? Können wir schneller lernen, als sich das Umfeld verändert?

Das verstehe ich heute unter einer AI-first-Organisation.

Deshalb sehe ich „Können wir KI vertrauen?“ und „Sollten wir konsequent auf KI setzen?“ nicht länger als konkurrierende Fragen.

Die erfolgreichen Organisationen werden beide beantworten müssen.