Besonders leistungsstarke KI-Modelle sollen nach Forderung des TÜV-Verbands künftig vor ihrer Markteinführung verpflichtend auf Sicherheitsrisiken geprüft werden. Dafür seien unabhängige Prüfstellen, eine leistungsfähigere europäische Marktaufsicht und international abgestimmte Vorgaben notwendig. Zugleich warnt der Verband davor, den EU AI Act durch weitere Ausnahmen zu schwächen.
Der TÜV-Verband fordert ein verbindliches Prüfregime für besonders leistungsstarke KI-Modelle, sogenannte Frontier Models. Bevor solche Modelle auf den Markt kommen, sollen Behörden oder unabhängige Prüforganisationen in öffentlichem Auftrag deren Sicherheit untersuchen. Hintergrund der Forderung sind nach Angaben des Verbands Sicherheitsvorfälle der vergangenen Monate, bei denen sich KI-Agenten selbständig in Online-Plattformen gehackt haben oder unkontrolliert aus Testumgebungen ausgebrochen sind.
„Die Sicherheitsvorfälle der letzten Zeit haben gezeigt, welche Gefahren von neuen KI-Modellen ausgehen“, sagt Dr. Dirk Stenkamp, Präsident des TÜV-Verbands. „Wir brauchen vor der Markteinführung ein verpflichtendes Prüfregime für besonders leistungsstarke KI-Modelle.“
Aus Sicht des Verbands sollte die Regulierung möglichst international abgestimmt werden. Vereinbarungen zwischen Staaten müssten anschließend in verbindliche Vorgaben überführt werden. Eine alleinige Selbstregulierung der Anbieter hält der TÜV-Verband angesichts der Entwicklungsgeschwindigkeit bei KI nicht für ausreichend.
„Im Idealfall verständigt sich die Weltgemeinschaft auf ein gemeinsames Vorgehen, wie sie die Risiken neuer KI-Modelle beherrschen will“, sagt Stenkamp. „Die von den Tech-Konzernen propagierte Selbstkontrolle und Selbstregulierung reicht nicht aus. Angesichts des hohen Tempos der KI-Entwicklung muss die Politik jetzt schnell und entschlossen handeln.“
EU-Marktaufsicht soll mehr Ressourcen erhalten
Auf europäischer Ebene sieht der TÜV-Verband vor allem bei der Durchsetzung bestehender Vorgaben Handlungsbedarf. Der AI Act enthält für neue KI-Modelle mit systemischen Risiken bereits Anforderungen unter anderem an Cybersicherheit, Trainingsdaten, Modell-Evaluation und Meldepflichten. Eine verpflichtende externe Sicherheitsprüfung vor der Marktzulassung eines neuen Modells ist darin jedoch nicht vorgesehen.
Der bestehende regulatorische Rahmen müsse deshalb seine Wirksamkeit in der Praxis unter Beweis stellen und bei Bedarf weiterentwickelt werden. Dazu zählt der Verband einheitliche Prüfverfahren ebenso wie den Aufbau eigener Prüfungskompetenzen.
„Der bestehende Rahmen muss sich jetzt in der Praxis bewähren. Anforderungen müssen bei Bedarf verschärft, einheitliche Prüfverfahren entwickelt und eigene Prüfkompetenzen aufgebaut werden“, sagt Stenkamp. „Das europäische ‚AI Office‘ braucht dringend zusätzliche finanzielle und personelle Ressourcen, um die Sicherheit der neuen Frontier Modelle substanziell bewerten und die Einhaltung der Vorgaben durchsetzen zu können.“
Parallel dazu soll das AI Safety and Security Institute (AISI) in Berlin nach Vorstellung des Verbands zügig seine Arbeit aufnehmen. Ziel sei es, Auswirkungen leistungsstarker KI-Modelle auf die nationale Sicherheit kompetent einschätzen zu können.
Zusammenspiel von Entwicklern, Prüfern und Behörden
Für die Kontrolle leistungsfähiger KI-Systeme setzt der TÜV-Verband auf mehrere Akteure. Entwickler sollen Verantwortung für ihre Systeme übernehmen, während externe Prüforganisationen zusätzliche Expertise einbringen und Behörden die Aufsicht sicherstellen.
„Die Sicherheit der fortschrittlichen KI-Modelle kann kein Anbieter allein stemmen“, sagt Stenkamp. „Es braucht das bewährte Zusammenspiel aus Selbstverantwortung der Entwickler, dem Know-how externer Prüfer und behördlicher Aufsicht.“
Nach Einschätzung des Verbands entsteht rund um die Sicherheit von KI-Systemen weltweit ein neuer Milliardenmarkt. Dafür soll ein Ökosystem entstehen, das öffentliche KI-Institute, etablierte Prüforganisationen und Startups miteinander verbindet.
Stenkamp: „Wir müssen ein Ökosystem aus öffentlichen KI-Instituten, etablierten Prüforganisationen und innovativen Startups schaffen. Europa hat hier beste Voraussetzungen, eine führende Rolle einzunehmen.“
Die TÜV-Unternehmen haben dafür bereits eigene KI-Kompetenzen aufgebaut und das TÜV AI.Lab als Joint Venture gegründet. Dort werden einheitliche Prüfverfahren und Prüfmethoden für KI-Systeme entwickelt.
TÜV-Verband warnt vor weiterer Aushöhlung des AI Acts
Neben großen Allzweck-KI-Modellen regelt der EU AI Act auch die Bedingungen, unter denen Produkte und Anwendungen mit integrierter KI in der Europäischen Union auf den Markt gebracht werden dürfen. Der TÜV-Verband sieht einheitliche Vorgaben dabei als Voraussetzung für die Sicherheit künftiger Produkte mit leistungsfähigen KI-Modellen.
„In naher Zukunft werden auch die leistungsfähigsten KI-Modelle Eingang in europäische Produkte finden“, so Stenkamp. „Wir können die Sicherheit dieser Produkte nur mit einheitlichen KI-Regeln gewährleisten.”
Forderungen nach weiteren Ausnahmen vom direkten Anwendungsbereich des AI Acts lehnt der Verband daher ab. Industrievertreter fordern laut TÜV-Verband, nach Maschinen auch Medizinprodukte herauszunehmen und entsprechende KI-Anforderungen stattdessen in sektoralen Einzelgesetzen festzulegen.
Der Verband befürchtet dadurch unterschiedliche regulatorische Anforderungen, Verfahren und Fristen. Nach seiner Einschätzung könnte dies für Unternehmen zusätzliche Rechtsunsicherheit und höheren bürokratischen Aufwand verursachen.
„Der KI-Omnibus hat gezeigt, dass wir hier in die falsche Richtung steuern“, sagt Stenkamp. „Der AI Act macht klare Vorgaben zur Sicherheit von Hochrisiko-KI-Systemen in Produkten. Der ‚Sektor-Exit‘ für Maschinen führt zu einer regulatorischen Fragmentierung mit unterschiedlichen Anforderungen, Verfahren und Fristen. Das Ergebnis ist Rechtsunsicherheit und mehr statt weniger bürokratischer Aufwand für Unternehmen.“
Eine vergleichbare Entwicklung bei Medizinprodukten sollte nach Auffassung des TÜV-Verbands vermieden werden.
Weitere Informationen zum TÜV-Verband e. V. finden Sie hier.