Die europäische KI-Verordnung (AI Act) soll einen europäischen Rechtsrahmen für sichere und vertrauenswürdige Künstliche Intelligenz (KI) schaffen. Ein zentrales Element des AI Acts ist der risikobasierte Ansatz: Nur KI-Systeme, die als hochriskant eingestuft werden, müssen verpflichtende Sicherheitsanforderungen erfüllen.
„Ein Scheitern des AI Acts hätte zur Folge gehabt, dass KI-Systeme auf absehbare Zeit unreguliert – und damit unsicher – geblieben wären. Die jetzige Einigung zeigt die Entschlossenheit der EU-Mitgliedstaaten, Künstliche Intelligenz sicher zu machen“, sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. „Mit dem AI Act positioniert sich die EU klar als Vorreiter für sichere und vertrauenswürdige KI.“ Das bringe einen entscheidenden Wettbewerbsvorteil.
Der im AI Act umgesetzte risikobasierte Ansatz schafft Balance zwischen Innovation und Sicherheit. Demzufolge müssen lediglich hochriskante KI-Systeme verpflichtende Sicherheitsanforderungen erfüllen. Dazu zählen zum Beispiel KI-Systeme in Medizinprodukten oder in kritischen Infrastrukturen.
Aus Sicht des TÜV-Verbands ist es wichtig, dass bestimmte hochriskante KI-Systeme zwingend von einer unabhängigen Prüfstelle geprüft werden müssen. So kann sichergestellt werden, dass alle Anforderungen an Transparenz, Datenqualität oder Cyber-Sicherheit eingehalten werden. Weniger risikobehaftete KI-Systeme fallen dagegen nicht in den Anwendungsbereich der Regulierung.
Ausdrücklich positiv zu bewerten sei laut Bühler ebenfalls, dass künftig auch sogenannte Allzweck-KI, zum Beispiel generative KI-Modelle wie ChatGPT, bestimmte Mindestanforderungen erfüllen müssen. „Insbesondere leistungsstarke KI-Modelle können für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden und bergen damit große Risiken für Sicherheit und Demokratie“, erklärt Bühler. „Mit der Regulierung dieser Systeme geht der EU-Gesetzgeber entschlossen gegen diese Bedrohungen unserer Demokratie vor, was im Wahljahr 2024 mit Blick auf mögliche Wahlkampfbeeinflussung umso wichtiger ist.“
TÜV-Verband fordert einheitliche Umsetzung und klare Leitfäden
Nun gilt es, die Weichen für eine erfolgreiche Umsetzung des AI Acts auf nationaler und europäischer Ebene zu stellen. Die Anforderungen des AI Acts müssen zeitnah durch harmonisierte europäische Normen konkretisiert werden, um Rechtssicherheit für KI-Anbieter, Prüforganisationen und Behörden zu schaffen.
Darüber hinaus müssen Rechtsunsicherheiten bei der genauen Klassifizierung von Hochrisiko-KI-Systemen beseitigt werden. Der TÜV-Verband drängt darauf, dass die EU-Kommission zeitnah klare Umsetzungsleitfäden mit konkreten Beispielen veröffentlicht, um möglichen Fehleinschätzungen durch die Anbieter vorzubeugen.
Prüfbereitschaft von KI-Systemen muss von allen Akteuren hergestellt werden
Der Umsetzungserfolg des AI Acts wird wesentlich von der rechtzeitigen und vollständigen Prüfbereitschaft aller Akteure im KI-Ökosystem abhängen. „Anbieter von KI-Systemen sind aufgefordert, sich bereits heute mit den Anforderungen des AI Acts auseinanderzusetzen“, sagt Bühler. Viele Anforderungen können von Anbietern in bestehende Qualitäts- und Risikomanagementsysteme integriert werden.
Der TÜV-Verband begrüßt dabei auch die Verpflichtung der Mitgliedstaaten, entsprechende Real-Labore (sogenannte „Regulatory Sandboxes“) einzurichten, in denen Anbieter ihre KI-Systeme entwicklungsbegleitend testen können. Für solche KI-Qualitätszentren, die auch KMU und Start-ups zugutekommen sollen, setzt sich der TÜV-Verband seit mehreren Jahren mit den AI Quality & Testing Hubs ein.
Die TÜV-Prüforganisationen bereiten sich intensiv auf den Aufbau von entsprechendem Prüf-Know-how vor. Bereits Anfang 2021 wurde das TÜV AI.Lab gegründet, um regulatorische und technische Anforderungen an KI zu begleiten und die Entwicklung von Prüfkriterien voranzutreiben. Das TÜV AI.Lab engagiert sich dabei unter anderem als Partner in der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie (MISSION KI) des Bundesministeriums für Digitales und Verkehr und der Deutschen Akademie der Technikwissenschaften. (rhh)
