Das Muster, das sich bei jedem blockierten Piloten wiederholt
Ein mittelständischer Versicherer aus dem DACH-Raum hat in den letzten achtzehn Monaten drei generative KI-Prototypen entwickelt. Jeder einzelne hat den Vorstand während der Demo beeindruckt. Jeder einzelne hat Fragen schneller beantwortet als der bestehende Workflow. Und jeder einzelne sitzt immer noch in einer Sandbox und wartet darauf, dass jemand die Freigabe für den Produktivbetrieb erteilt. Der Grund ist nicht die Modellleistung, nicht die Datenqualität und nicht die Infrastrukturreife. Der Grund ist, dass niemand in der Organisation bereit ist, die Verantwortung dafür zu übernehmen, was passiert, wenn der Agent vor einem Kunden etwas falsch macht.
Dies ist kein Einzelfall. Bei Enterprise-KI-Deployments zeigt sich überall dasselbe Verantwortungsvakuum. Piloten gelingen in kontrollierten Umgebungen, weil die Verantwortlichkeit über das Projektteam verteilt ist. Der Produktivbetrieb kommt nicht zustande, weil der Produktivbetrieb eine benannte Person oder Funktion erfordert, die für jede Entscheidung, die der Agent autonom trifft, die Verantwortung übernimmt. Die Technologie funktioniert. Die Haftungsstruktur nicht.
Die Blockade ist kein technisches Problem. Es ist eine Governance-Lücke, die die meisten Organisationen erst erkennen, wenn sie versuchen, einen Agenten vom Piloten in den Produktivbetrieb zu überführen. Zu diesem Zeitpunkt hat das Projekt bereits Budget verbraucht, Dynamik aufgebaut und Erwartungen bei der Geschäftsführung geweckt. Das fehlende Teil – wer besitzt diesen Agenten auf dieselbe Weise, wie ein Personalverantwortlicher einen neuen Mitarbeiter besitzt – wird zum Hindernis, das niemand vorhergesehen hat.
Warum die Entwicklung eines Agenten wie die Einstellung eines Mitarbeiters ist
Branchenkonferenzen zeigen zunehmend produktionsreife KI-Agenten, die Live-Kundeninteraktionen abwickeln. Die operative Rahmung, die aus diesen Demonstrationen hervorgeht, ist präzise: Wenn Sie einen Agenten einsetzen, der Produkte suchen, Händler auswählen und Käufe im Namen eines Kunden abschließen kann, stellen Sie digitale Arbeitskraft ein. Die Frage ist nicht, ob der Agent funktioniert. Die Frage ist, wer den Arbeitsvertrag unterschreibt.
Diese Rahmung erzwingt eine Klarheit, die die meisten Pilotprogramme vermeiden. Ein Mitarbeiter hat einen Vorgesetzten, der seinen Verantwortungsbereich definiert, seine Leistung überwacht und die Verantwortung übernimmt, wenn er einen Fehler macht. Ein KI-Agent im Produktivbetrieb braucht dieselbe Struktur. Ohne sie existiert der Agent in einer rechtlichen und operativen Grauzone, in der niemand für seine Handlungen verantwortlich ist, und der Produktivbetrieb wird zu einer Haftung, die keine Führungskraft akzeptieren will.
Branchenumfragen unter Einzelhändlern zeigen, dass die Mehrheit ihren Ansatz für autonome KI-Käufe vorbereitet oder plant, doch bei einem hypothetischen umstrittenen Kauf kann die Mehrheit nicht benennen, wer für die Lösung des Problems verantwortlich wäre. Die Unsicherheit betrifft nicht die Fähigkeit der Technologie. Sie betrifft das Fehlen eines klaren Verantwortungsmodells, das operative Kontrolle mit rechtlicher Verantwortung in Einklang bringt.
Die Governance-Lücke auf Führungsebene, die den Engpass erklärt
Untersuchungen zur Enterprise-KI-Governance zeigen, dass nur ein kleiner Bruchteil der Vorstandsvorsitzenden persönlich die KI-Verantwortlichkeit in ihren Organisationen übernimmt. Die überwiegende Mehrheit hat die KI-Aufsicht an Technologie-, Risiko- oder Innovationsfunktionen delegiert, ohne eine klare Entscheidungsbefugnis für den Produktivbetrieb zu etablieren. Dies schafft einen vorhersehbaren Fehlermodus: Piloten gelingen, weil sie als Experimente gerahmt werden, aber der Produktivbetrieb stockt, weil keine einzelne Funktion sowohl die Befugnis zum Deployment als auch die Verpflichtung hat, die Konsequenzen zu tragen.
Das Fehlen von Verantwortung auf Führungsebene ist kein Zeichen dafür, dass KI unwichtig ist. Es ist ein Zeichen dafür, dass die meisten Organisationen KI-Agenten noch nicht als neue Kategorie operativer Assets erkannt haben, die ein grundlegend anderes Governance-Modell erfordert. Traditionelle IT-Governance geht davon aus, dass Systeme vordefinierte Logik ausführen. Agentische KI arbeitet mit begrenzter Autonomie und trifft Entscheidungen innerhalb von Parametern, die sich kontextabhängig verschieben. Das Governance-Modell, das für deterministische Software funktionierte, lässt sich nicht übertragen.
Beratungsunternehmen betonen, dass Unternehmen drei Dinge brauchen: starke Grundlagen, klare Leitplanken und Ausrichtung des Betriebsmodells. Die Grundlage sind Daten, Kontext und Integration. Die Leitplanken sind Verifikation, menschliche Aufsicht, Governance und klare Regeln dafür, was Agenten tun können und was nicht. Aber die Ausrichtung des Betriebsmodells ist der Punkt, an dem die meisten Organisationen scheitern. KI zwingt Unternehmen, von programmbasierten Transformationen zu fähigkeitsbasierten Transformationen überzugehen, und Fähigkeiten brauchen Eigentümer.
Das Control-Tower-Modell: Customer Zero als Governance-Blaupause
DXC Technology und ServiceNow haben ein Governance-Framework entwickelt, das darauf ausgelegt ist, den spezifischen Risiken autonomer Agenten in Enterprise-Umgebungen entgegenzuwirken. Das Modell behandelt die Organisation selbst als Customer Zero, was bedeutet, dass jeder Agent zunächst intern eingesetzt wird, mit voller Observability und Governance-Kontrollen, bevor er externe Kunden oder Workflows berührt. Die Struktur umfasst fünf Ebenen: Jeder Agent erhält eine Identität und Policy-Grenze, Sicherheit und Compliance sind in Deployment-Workflows eingebaut, Autonomie wird in digitalen Zwillingen getestet, bevor sie Live-Operationen berührt, Multi-Agent-Koordination erfolgt durch gesteuerte Übergaben mit eingebauten Fail-Safes, und Datenzugriff wird an der Quelle mit vollständigen Audit-Trails kontrolliert.
Dies ist keine Compliance-Checkliste. Es ist eine Produktionsvoraussetzung. Das Control-Tower-Modell erkennt an, dass Governance nicht etwas ist, das man nach dem Deployment hinzufügt. Es ist das Betriebssystem, das Deployment überhaupt erst möglich macht. Ohne es bleiben Agenten Experimente, weil niemand selbstbewusst die Frage beantworten kann: Was passiert, wenn dieser Agent eine Entscheidung trifft, die wir nicht vorhergesehen haben?
Der Customer-Zero-Ansatz löst auch das Verantwortungsproblem, indem er die Organisation zwingt, Verantwortlichkeit vor dem Deployment zu definieren. Wenn die Organisation der erste Kunde ist, muss jemand innerhalb der Organisation die Leistung des Agenten besitzen, sein Verhalten überwachen und die Verantwortung für seine Fehler übernehmen. Diese Verantwortungsstruktur kann, einmal intern etabliert, dann mit Zuversicht auf externe Deployments ausgeweitet werden.
Das Autonomy Mapping Framework: Operative Kontrolle vor rechtlicher Verantwortung
Juristen, die an KI-Agent-Haftung arbeiten, haben ein Strukturmodell entwickelt, das Autonomy Mapping Framework genannt wird und argumentiert, dass Verantwortung nicht korrekt zugewiesen werden kann, wenn die operative Struktur des Systems nicht zuerst kartiert wurde. Das Framework verlangt von Organisationen, fünf strukturelle Kontrollschichten zu kartieren, bevor Haftungsbestimmungen entworfen werden: Wer initiiert die Aktion des Agenten, wer definiert die Entscheidungsgrenzen des Agenten, wer überwacht den Agenten während der Ausführung, wer hat die Befugnis einzugreifen oder zu überstimmen, und wer ist verantwortlich, wenn der Agent ein unbeabsichtigtes Ergebnis produziert.
Die Erkenntnis ist, dass Haftung der Kontrolle folgt. Wenn Ihre Organisation diese fünf Schichten für einen bestimmten Agenten nicht kartieren kann, haben Sie noch kein einsetzbares System. Sie haben einen Prototypen mit unklarer Verantwortung, und diese Mehrdeutigkeit ist der Grund, warum der Pilot nicht in den Produktivbetrieb übergegangen ist. Das Autonomy Mapping Framework ist kein juristisches Dokument. Es ist eine Governance-Grundlage, die Klarheit darüber erzwingt, wer was besitzt, bevor der Agent live geht.
Dies ist der fehlende Schritt in den meisten Pilotprogrammen. Teams konzentrieren sich auf Modellleistung, Data-Pipelines und Benutzererfahrung. Sie gehen davon aus, dass Governance später während der Produktionsreife-Prüfung behandelt wird. Aber Governance ist keine Prüfung. Es ist eine Design-Einschränkung. Wenn die operative Kontrollstruktur nicht während der Pilotphase kartiert wird, wird der Pilot am Produktionstor stocken, weil niemand selbstbewusst die Verantwortungsfrage beantworten kann.
Die wahren Kosten des Verantwortungsvakuums
Führende Versicherungsunternehmen haben in den letzten Jahren Dutzende generative KI-Use-Cases im Produktivbetrieb eingesetzt. Die Unterscheidung, die sie betonen, ist, dass dies keine Piloten sind – es sind Live-Fähigkeiten, die Umsatz generieren, mit definierten Eigentümern und klaren Eskalationspfaden. Diese Organisationen haben bereits begonnen, agentische KI für mehrstufige Customer Journeys zu erkunden und rahmen agentische Fähigkeiten als schnellere, genauere Workflows, bei denen komplexe Aufgaben autonom orchestriert werden können. Das Governance-Modell, das diese Skalierung ermöglicht hat, ist nicht öffentlich, aber das Muster ist klar: Produktivbetrieb erfordert Verantwortung, und Verantwortung erfordert jemanden, der mit Befugnis ja oder nein sagen kann.
Die Kosten des Verantwortungsvakuums sind nicht nur verzögertes Deployment. Es sind die sich zusammensetzenden Opportunitätskosten jedes Monats, in dem ein funktionierender Prototyp ungenutzt bleibt, weil die Governance-Struktur mit der Technologie nicht Schritt gehalten hat. Mittelständische Unternehmen im DACH-Raum sind diesem Risiko besonders ausgesetzt, weil ihnen die dedizierten KI-Governance-Teams fehlen, die sich Hyperscaler leisten können. Ein mittelständischer Hersteller oder Logistikanbieter kann keinen Chief AI Officer einstellen, der jeden Agenten besitzt. Sie brauchen ein Governance-Modell, das bestehenden Funktionen – Operations, IT, Risk oder Business-Unit-Leitern – Verantwortung zuweist und diesen Eigentümern die Werkzeuge gibt, Agenten so zu verwalten, wie sie jedes andere operative Asset verwalten würden.
Die Alternative ist das aktuelle Muster: Piloten, die technisch gelingen, aber organisatorisch scheitern, weil niemand bereit ist zu besitzen, was der Agent tut, wenn er autonom operiert. Die Technologie ist bereit. Das Governance-Modell nicht. Und bis Organisationen diese Lücke schließen, wird KI ein vielversprechendes Experiment bleiben statt eine Produktionsfähigkeit.
Governance als Produktionstor
Der Übergang vom Piloten zum Produktivbetrieb ist kein technischer Meilenstein. Es ist ein Verantwortlichkeitsmeilenstein. Die Frage ist nicht, ob der Agent funktioniert. Die Frage ist, wer ihn besitzt, wenn er nicht funktioniert. Organisationen, die diese Frage klar beantworten – indem sie operative Kontrolle kartieren, benannte Eigentümer zuweisen und Governance-Strukturen aufbauen, die Agenten als operative Assets behandeln – werden KI im großen Maßstab einsetzen. Organisationen, die die Verantwortungsfrage aufschieben, werden weiterhin beeindruckende Piloten durchführen, die nie den Produktivbetrieb erreichen.
Das Verantwortungsvakuum ist kein Problem, das sich von selbst löst. Es erfordert ein bewusstes Governance-Modell, das Befugnis, Verantwortung und Aufsicht in Einklang bringt, bevor der Agent live geht. Die Technologie ist bereit. Die Frage ist, ob Ihre Organisation bereit ist, die Verantwortlichkeit zuzuweisen, die der Produktivbetrieb erfordert.
Ein Fit Call kartiert Ihre aktuelle KI-Governance-Struktur gegen die fünf Ebenen operativer Kontrolle – bevor Ihr nächster Pilot am Produktionstor stockt.