Angesichts der zunehmenden Verbreitung von KI-Agenten in Unternehmen bringt IBM eine branchenweit erste Software auf den Markt, die KI-Sicherheits- und Governance-Teams zusammenführt und einen einheitlichen Überblick über KI-Risiken bietet. Die neuen Funktionen erweitern watsonx.governance und Guardium AI Security und unterstützen Unternehmen beim sicheren und verantwortungsvollen Einsatz von KI-Systemen.
„KI-Agenten werden die Produktivität von Unternehmen revolutionieren, aber genau diese Vorteile können auch eine Herausforderung darstellen“, sagt Ritika Gunnar, General Manager, Data and AI bei IBM. „Wenn diese autonomen Systeme nicht ordnungsgemäß geregelt oder gesichert sind, kann dies schwerwiegende Folgen haben.“
Früh platzierte Integration von Sicherheits- und Governance-Workflows
IBM verknüpft watsonx.governance und Guardium AI Security zu einer integrierten Plattform, mit der Unternehmen Sicherheits- und Governance-Risiken im gesamten KI-Lebenszyklus verwalten können. Die Lösung unterstützt gängige Standards wie den EU AI Act und ISO 42001 und erlaubt Unternehmen, ihre Compliance-Prozesse automatisiert zu validieren. In Kooperation mit AllTrue.ai bietet IBM zusätzlich neue Funktionen, die KI-Anwendungsfälle in Cloud-Umgebungen, Code-Repositorys und Embedded Systems erkennen. Damit wird Transparenz über dezentral eingesetzte Agenten geschaffen. Bei erkannten Bedrohungen lässt sich die Auslösung von Governance-Workflows automatisieren.
Red Teaming, Schattenagenten-Erkennung und Risikobewertung
Die neuen Funktionen von Guardium AI Security umfassen automatisiertes Red Teaming zur Aufdeckung von Schwachstellen und Fehlkonfigurationen in KI-Systemen. Darüber hinaus ermöglicht die Software eine Analyse von Prompt-Ein- und -Ausgaben sowie die Festlegung benutzerdefinierter Sicherheitsrichtlinien.
Watsonx.governance überwacht und verwaltet nun KI-Agenten über deren gesamten Lebenszyklus. Neue Bewertungsknoten erlauben die Überwachung von Metriken wie Antwortrelevanz, Genauigkeit und Kontextbezug. Zusätzliche Funktionen wie Onboarding-Risikoprüfung, Audit-Trails und ein Agenten-Tool-Katalog wurden ab dem 27. Juni übernommen.
Standard-Compliance und Consulting-Support
Mit den neuen Compliance Accelerators liefert IBM vorinstallierte regulatorische Rahmenwerke wie den EU AI Act, SR 11-7 oder das NYC Local Law 144. Diese ermöglichen es Unternehmen, rechtliche Vorgaben gezielt auf eigene KI-Anwendungsfälle abzubilden.
Zudem bietet IBM Consulting neue Services für KI-Sicherheit und Governance an, die Guardium AI Security mit umfassender Fachberatung kombinieren. Ziel ist es, KI-Implementierungen sicher zu skalieren, Schwachstellen zu erkennen und regulatorische Anforderungen zu erfüllen. Die Services stützen sich auf die Erfahrungen mit internationalen Kunden wie Nationwide Building Society und e&. Watsonx.governance ist nun auch im AWS-Rechenzentrum in Indien mit erweiterten Modellüberwachungsfunktionen verfügbar.
Einheitlicher Schutz im agentenbasierten KI-Zeitalter
Mit der Integration von watsonx.governance und Guardium AI Security stellt IBM eine Lösung bereit, die Unternehmen die erforderliche Kontrolle und Sicherheit im Umgang mit generativer und agentenbasierter KI verschafft. Ziel ist es, Innovation mit Verantwortung zu verbinden – durch umfassende Transparenz, frühzeitige Risikobewertung und Standard-Compliance.