KI-Governance als strategische Voraussetzung: Was deutsche Unternehmen von den Vorreitern lernen können

Veröffentlichungsdatum: 2026

Teil 3 von 3 der Reihe „Vom Pilotprojekt zur Serienreife“.

Innerhalb von zwölf Monaten stieg der Anteil der Unternehmen, die sich hinsichtlich der KI-Einführung als fortgeschritten oder führend bezeichnen, von 8 % auf 64 %. Das Tempo des Wandels ist beeindruckend. Noch beeindruckender ist jedoch die Verteilung der Erträge.

In einer Umfrage unter 1.640 IT-Entscheidungsträgern stellte Box fest, dass sich der Mehrwert am oberen Ende der Reifekurve konzentriert und sich die Kluft zwischen den Vorreitern und allen anderen vergrößert. Dieser Bericht, „The State of AI in the Enterprise“, beschrieb detailliert, wie 50 % der Vorreiterunternehmen einen erheblichen ROI verzeichnen. Bei Unternehmen in der Anfangsphase liegt dieser Wert bei 11 %.

Und überraschenderweise haben KI-Modelle nichts mit diesen Ergebnissen zu tun. Vielmehr ist es die betriebliche Infrastruktur, die den großflächigen Einsatz dieser Modelle ermöglicht.

Die drei Grundpfeiler des agentischen Unternehmens

Die führenden Unternehmen verfügen über drei Fähigkeiten, auf die der Rest des Marktes noch hinarbeitet.

• Die erste ist die Verknüpfung von Inhalten: 96 % der Unternehmen sind sich einig, dass Mitarbeiter Zugriff auf unternehmensspezifische Inhalte und Wissen benötigen. Nur 36 % haben ihren Mitarbeitern über viele Anwendungsfälle hinweg Zugang zu vertrauenswürdigen internen Inhalten verschafft. Der Engpass besteht darin, das Unternehmenswissen – also die Verträge, Richtlinien, Betriebsunterlagen und das institutionelle Wissen, die definieren, wie ein Unternehmen tatsächlich funktioniert – für die Mitarbeiter, die darauf angewiesen sind, zugänglich, nutzbar und vertrauenswürdig zu machen.
• Der zweite Punkt ist die Umsetzung von Governance-Maßnahmen: 49 % der Unternehmen haben bereits einen Vorfall mit Datenpannen im Zusammenhang mit KI erlebt. Der Anteil der Unternehmen, die etablierte oder fortgeschrittene Governance-Rahmenwerke angeben, stieg von 24 % im Jahr 2025 auf 73 % in diesem Jahr. Doch die Rahmenwerke haben die Umsetzung überholt: Nur 40 % verfügen über umfassende Transparenz hinsichtlich genehmigter und nicht genehmigter KI-Nutzung. Die Unternehmen, die KI in großem Maßstab einsetzen, sind diejenigen, die von Anfang an eine für Mitarbeiter konzipierte Governance aufgebaut haben – mit definierten Berechtigungen, nachvollziehbaren Zugriffskontrollen und unveränderlichen Prüfpfaden.
• Der dritte Punkt ist die architektonische Flexibilität: 68 % der Befragten befürchten, an einen einzigen KI-Anbieter gebunden zu sein. Die Vorreiter haben darauf reagiert, indem sie Multi-Modell-Architekturen entwickelt haben, bei denen jede Komponente austauschbar bleibt, während sich der KI-Stack weiterentwickelt.

Das strategische Risiko für deutsche Unternehmen

Für deutsche Unternehmen kommt der Governance eine besondere Bedeutung zu. Der DSGVO-konforme Einsatz von KI erfordert nachweisbare Kontrollmechanismen über Informationsressourcen. NIS2 erweitert diese Anforderungen auf die Ausfallsicherheit und Nachvollziehbarkeit kritischer Betriebssysteme. Ein KI-Agent, der ohne nachvollziehbare, überprüfbare Kontrollen auf Unternehmensinhalte zugreift, ist kein Produktivitätswerkzeug. Er ist ein Compliance-Risiko – und ein strategisches Risiko.

Die in der Umfrage identifizierte Lücke zwischen Pilotphase und Produktivbetrieb ist im deutschen Kontext in erster Linie eine Governance-Lücke. Viele deutsche Unternehmen führen aktive KI-Pilotprojekte durch. Nur wenige haben jedoch einen produktiven Einsatz in großem Maßstab erreicht. Das Hindernis ist die Notwendigkeit einer geregelten Inhaltsgrundlage – also Berechtigungen, Nachvollziehbarkeit und Workflow-Kontrollen –, die den Einsatz von KI in einer DSGVO-konformen Umgebung ermöglicht.

76 % der Befragten geben an, dass ihre aktuellen Governance-Anforderungen die Einführung agentischer KI verlangsamen. Doch 93 % stimmen zu, dass eine bessere Governance ihnen helfen würde, im Laufe der Zeit schneller voranzukommen. Die Vorreiter unter den Unternehmen haben nicht darauf gewartet, dass die Governance mit der KI Schritt hält. Sie haben von Anfang an eine Governance aufgebaut, die für agentenbasierte Lösungen bereit war.

Die Mitarbeiterzahl wird voraussichtlich steigen

Entgegen der vorherrschenden Meinung erwarten 58 % der Unternehmen, dass ihre Gesamtmitarbeiterzahl in den nächsten drei Jahren steigen wird; bei den am weitesten fortgeschrittenen Unternehmen sind es sogar 79 %. Die am schnellsten hinzukommenden Stellen bilden eine klar erkennbare Gruppe: KI-Agentenbetreiber, Governance-Experten, Spezialisten für Workflow-Automatisierung sowie Fachkräfte für KI-Ethik und Compliance.

Dies sind die Rollen des „Agentic Enterprise“: die Menschen, die die Agenten konfigurieren, überwachen, steuern und prüfen, die zu einem festen Bestandteil des Unternehmensbetriebs werden. Das Muster ist bekannt. Wenn eine Technologie die Kosten für eine bestimmte Tätigkeit senkt, führen Unternehmen diese Tätigkeit in größerem Umfang durch – und benötigen mehr Personal, um die Expansion zu bewältigen. Die KI folgt derselben Kurve.

Entscheidende Infrastruktur für den ROI bei KI

Die eigentliche Herausforderung für deutsche Unternehmen besteht darin, sicherzustellen, dass Daten und interne Regeln so gestaltet sind, dass sich die Investitionen in KI lohnen.

Der DACH-KI-Governance-Benchmark, der in Zusammenarbeit mit Handelsblatt Research entwickelt wurde und auf einer Umfrage unter 300 Entscheidungsträgern aus deutschen Unternehmen mit mindestens 500 Mitarbeitern basiert, quantifiziert genau diese Lücke. Fast 80 % der deutschen Unternehmen setzen KI produktiv ein – doch nur etwa die Hälfte bewertet ihre Governance-Strukturen als effektiv oder sehr effektiv. Weniger als die Hälfte hat operative KI-Prozesse vollständig etabliert. Nur jedes fünfte Unternehmen setzt ausschließlich genehmigte KI-Tools ein. Und ein Drittel gibt an, dass Mitarbeiter häufig nicht genehmigte Tools nutzen, während weitere zwei Fünftel sagen, dass dies gelegentlich vorkommt. Der Ehrgeiz ist da. Die Infrastruktur, um dies sicher zu steuern, fehlt – noch.

Sowohl die globalen als auch die DACH-Daten weisen auf dieselbe Antwort hin: eine Governance, die von Anfang an auf die Akteure ausgerichtet war.
 

* Wir sind stets bestrebt, Produkte und Services anzubieten, die den besten Datenschutz sowie die höchste Sicherheit und Compliance gewährleisten, jedoch stellen die in diesem Blogbeitrag enthaltenen Informationen keine Rechtsberatung dar. Wir empfehlen potenziellen und aktuellen Kund:Innen dringend, ihre eigene Sorgfaltspflicht bei der Einhaltung geltender Gesetze zu erfüllen.