KI-Agenten übernehmen in Unternehmen zunehmend komplexe Aufgaben und treffen eigenständig Entscheidungen. Doch mit wachsender Autonomie steigen auch die Anforderungen an Governance, Sicherheit und Verantwortlichkeit. Aktuelle Studien von IDC und IBM zeigen, dass viele Unternehmen beim produktiven Einsatz bereits weit fortgeschritten sind, ihre Kontrollmechanismen jedoch nicht im gleichen Tempo weiterentwickeln. Entscheidend für die Skalierung sind deshalb klare Zuständigkeiten, begrenzte Zugriffsrechte und wirksame Eingriffsmöglichkeiten.
KI-Agenten entwickeln sich zunehmend von experimentellen Anwendungen zu einem festen Bestandteil betrieblicher Prozesse. Sie können mehrstufige Aufgaben ausführen, auf unterschiedliche Systeme zugreifen und eigenständig Werkzeuge nutzen. Damit eröffnen sich neue Möglichkeiten für die Automatisierung, gleichzeitig entstehen zusätzliche Anforderungen an Sicherheit, Transparenz und Kontrolle.
Wie weit der Einsatz bereits fortgeschritten ist, verdeutlicht der „IDC MarketScape: Worldwide Agentic AI Platforms 2026“. Demnach hatten im Juli 2026 bereits 95 Prozent der befragten Organisationen mindestens einen Agenten-Workflow produktiv im Einsatz. Knapp ein Viertel nutzte sogar mehr als 15 solcher Workflows.
Mit dieser Entwicklung rückt die Frage in den Mittelpunkt, wie Unternehmen autonome KI-Systeme dauerhaft kontrollieren können. Denn je mehr Agenten eigenständig handeln, desto wichtiger wird es, ihre Verantwortlichkeiten, Berechtigungen und Aktivitäten nachvollziehbar zu gestalten.
IBM wurde im aktuellen IDC MarketScape als Leader eingestuft. Die Analysten heben insbesondere die Flexibilität bei der Modellauswahl und Bereitstellung, die plattformübergreifende Orchestrierung sowie die Erfahrung bei der Integration in Unternehmenssysteme hervor. Gleichzeitig verweist der Bericht auf Funktionen, die sich zum Bewertungszeitpunkt noch in der Entwicklung befanden.
Governance hält mit der KI-Autonomie nicht Schritt
Dass viele Unternehmen ihre Governance-Strukturen noch nicht ausreichend auf autonome KI-Systeme vorbereitet haben, zeigt eine IBM-Studie unter 3.221 Führungskräften aus acht Ländern Europas und des Nahen Ostens.
80 Prozent der Befragten in EMEA und 82 Prozent in Deutschland meldeten KI-Vorfälle auf Geschäftsleitungsebene. Trotz dieser Vorfälle passten lediglich 40 Prozent der Befragten in EMEA und 39 Prozent in Deutschland ihre Governance-Richtlinien an.
Auch bei der Vorbereitung auf autonome Entscheidungen zeigt sich eine deutliche Diskrepanz. Während 75 Prozent der Befragten in EMEA erwarten, dass KI-Agenten bis 2027 ein gewisses Maß an Entscheidungsautonomie erreichen, halten nur 37 Prozent ihre Governance dafür ausreichend vorbereitet. In Deutschland stehen 62 Prozent erwarteter Autonomie lediglich 38 Prozent entsprechend vorbereiteter Governance gegenüber.
Für Unternehmen ergibt sich daraus die Notwendigkeit, technische Kontrollmechanismen und organisatorische Verantwortlichkeiten gemeinsam weiterzuentwickeln. Allgemeine Richtlinien reichen nicht aus, wenn sie sich im laufenden Betrieb nicht wirksam durchsetzen lassen.
Identitäten und Zugriffsrechte technisch absichern
Ein zentraler Ansatz besteht darin, KI-Agenten nach vergleichbaren Sicherheitsprinzipien zu verwalten wie menschliche Mitarbeitende. Jeder Agent benötigt eine eindeutige Identität, einen definierten Aufgabenbereich und klar begrenzte Berechtigungen.
Auf der Entwicklerkonferenz TechXchange stellte IBM dafür neue Funktionen vor. Mit HashiCorp Vault Agent Identity sollen sich verwaltete Identitäten für KI-Agenten einrichten und Informationen über Verantwortliche, Lebenszyklusstatus und Berechtigungen zentral bereitstellen lassen.
Kurzlebige Zugangsdaten und das Prinzip der minimalen Rechtevergabe sollen verhindern, dass Agenten dauerhaft über weitreichende Systemzugriffe verfügen. Bei nicht autorisierten Aktionen sollen sich Berechtigungen zudem in Echtzeit entziehen lassen.
Ergänzend soll watsonx Orchestrate die plattformübergreifende Steuerung unterstützen. Die angekündigten Funktionen Discover, Contain und Evaluate zielen darauf ab, Agenten besser zu erfassen, ihre Handlungsspielräume zu begrenzen und ihre Aktivitäten zu bewerten.
Drei Maßnahmen für den kontrollierten Einsatz
Für Geschäftsführungen und CIOs empfiehlt sich ein schrittweises Vorgehen, das zunächst bei einem priorisierten Workflow ansetzt. Aus den beschriebenen Anforderungen ergeben sich drei zentrale Handlungsfelder:
- Verantwortlichkeiten definieren: Jeder produktive KI-Agent sollte einem fachlichen Verantwortlichen und einem technischen Betreiber zugeordnet sein. Aufgabenbereiche, Zugriffsrechte und Entscheidungen mit menschlicher Freigabepflicht müssen eindeutig festgelegt werden.
- Berechtigungen begrenzen: Ein zentrales Verzeichnis sollte eingesetzte Agenten, Verantwortliche und Zugriffsrechte dokumentieren. Dauerhaft überprivilegierte Zugangsdaten sind zu vermeiden. Zudem müssen Möglichkeiten zum Entzug von Berechtigungen und zum Stoppen einzelner Agenten vorhanden sein.
- Kontrollen regelmäßig überprüfen: Unternehmen sollten relevante Aktionen protokollieren und Qualität, Regelkonformität sowie Kosten überwachen. Simulierte KI-Vorfälle können zeigen, ob sich Agenten stoppen, ihre Aktivitäten nachvollziehen und Prozesse kontrolliert an Mitarbeitende übergeben lassen.
Skalierung erfordert dauerhaft wirksame Kontrollen
Die Anzahl produktiver KI-Agenten ist allein kein ausreichender Maßstab für den Erfolg einer KI-Strategie. Entscheidend ist vielmehr, ob Unternehmen die Aktivitäten ihrer Agenten nachvollziehen, Risiken begrenzen und bei Bedarf unmittelbar eingreifen können.
Marc Schlingheider, Vice President, Market Leader Data & AI bei IBM DACH, betont in seinem Beitrag die Bedeutung eines kontrollierten Betriebsmodells. Er fasst den Ansatz folgendermaßen zusammen:
‘Trusted Agentic AI at Scale’ beginnt deshalb nicht mit maximaler Autonomie, sondern mit klaren Zuständigkeiten, begrenzten Rechten und wirksamen Eingriffsmöglichkeiten.
Damit wird Governance zu einer wesentlichen Voraussetzung für den breiteren Einsatz autonomer KI-Systeme. Unternehmen, die Identitäten, Verantwortlichkeiten und technische Kontrollen frühzeitig etablieren, schaffen die Grundlage, um KI-Agenten schrittweise in weitere Geschäftsprozesse einzubinden.
Hier finden Sie weitere Informationen zu IBM.