Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) haben eine strategische Kooperation zur Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz gestartet.
Eine Kooperationsvereinbarung haben das BSI und das Das Fraunhofer-Institut IAIS unterzeichnet, um die Entwicklung einer KI-Zertifizierung „made in Germany“ voranzubringen. Ziel der Zusammenarbeit ist es, Prüfverfahren zu entwickeln, die als Basis für technische Standards und Normen dienen können. Dazu arbeiten die Kooperationspartner mit zahlreichen Partnern aus Deutschland und Europa zusammen.
Als erstes großes Vorhaben im Rahmen der Kooperation startet Anfang 2021 das Flagship-Projekt „Zertifizierte KI“ der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen KI.NRW. In dem Projekt legen unter anderem Unternehmen die konkreten Bedarfe an Prüfverfahren fest und führen Pilotprüfungen durch.
Intelligente Systeme sind schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledigen als der Mensch. Damit Unternehmen mit dem Einsatz von KI entscheidende Wettbewerbsvorteile erzielen können, sollten KI-Systeme vertrauenswürdig sein und verlässlich funktionieren. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.
Das BSI und das Fraunhofer IAIS haben nun eine Kooperationsvereinbarung für die gemeinsame Entwicklung von Prüfverfahren unterzeichnet. Die Kooperation ermöglicht die intensive Zusammenarbeit von Expertinnen und Experten, um technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren.
„Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung. KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt“, erläutert Arne Schönbohm. Der Präsident des BSI sieht seine Behörde als Gestalter einer sicheren Digitalisierung in Deutschland. Daher befasse sich das BSI auch intensiv mit dem Thema und unterstütze die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben.
„Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen“, bringt es Schönbohm auf den Punkt. „Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert.“
Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut. Mit der Erarbeitung von Prüfverfahren im Hinblick auf eine KI-Zertifizierung hat es verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen geschaffen.
„Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen. Mit dem BSI haben wir einen starken
Partner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben. Jetzt gilt es, gemeinsam die Weichen Richtung Zertifizierung zu stellen und die wesentlichen Akteure zusammen zu bringen“, sagt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS.
Bei der Weiterentwicklung der Prüfverfahren sollen Praxistauglichkeit und Marktfähigkeit in enger Abstimmung mit der Wirtschaft weiter verbessert werden. Dazu startet Anfang 2021 ein großes Flagship-Projekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird. In dem Projekt arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen.
In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden. (rhh)
Mehr Informationen des BSI zum Thema Künstliche Intelligenz.