Erst ein ambitionierter Rechtsrahmen für Künstliche Intelligenz schafft Grundlagen für Sicherheit und wirtschaftlichen Erfolg. So wollen es zumindest die Fraktionen im EU-Parlament. Dabei geht es auch um die Entwicklung von zugehörigen Prüfverfahren.
Auf die Regulierung von Künstlicher Intelligenz (KI) haben sich die Fraktionen im EU-Parlament geeinigt. Dazu bezieht Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands Stellung: „Der TÜV-Verband begrüßt zwar grundsätzlich, dass sich die Fraktionen im EU-Parlament auf eine gemeinsame Position einigen konnten“. Doch er sieht weiteres Verbesserungspotenzial bei der Gestaltung des AI Acts. Für ihn braucht es klare Rechtsgrundlagen, um die Menschen vor den negativen Folgen der Technologie zu schützen und gleichzeitig den Einsatz von KI in der Wirtschaft zu fördern. Nur mit einem ambitionierten Rechtsrahmen könne Europa für KI seine Rolle als führender Wirtschaftsstandort ausbauen.
„Der Entwurf des AI Act sieht zwar vor, dass KI-Anwendungen bestimmte Anforderungen wie beispielsweise mehr Transparenz von Algorithmen erfüllen müssen. Es muss aber sichergestellt werden, dass die Vorgaben auch eingehalten werden“, betont Bühler. „Eine unabhängige Überprüfung ist nur für einen kleinen Teil der KI-Systeme mit hohem Risiko vorgesehen. Die meisten kritischen KI-Anwendungen wie zum Beispiel Gesichtserkennung, Recruiting-Software oder Kreditwürdigkeitsprüfungen sollen weiter mit einer reinen Herstellerselbsterklärung auf den Markt gebracht werden dürfen. Darüber hinaus soll die Einstufung als Hochrisiko-Anwendung teilweise über eine Selbsteinschätzung der Anbieter erfolgen – Fehleinschätzungen sind vorprogrammiert. Hier besteht aus Sicht des TÜV-Verbands weiterer Handlungsbedarf, um Eingriffe in die Privatsphäre oder automatisierte Diskriminierung zu verhindern.“
Aus der Sicht Bührers wäre es besser, alle Hochrisiko-KI-Systeme vor dem Marktstart von einer unabhängigen Stelle überprüfen zu lassen. Nur so könne gewährleistet werden, dass die Anwendungen den Sicherheitsanforderungen entsprechen. Das gelte besonders, wenn KI-Anwendungen in kritischen Bereichen wie der Medizin, in Fahrzeugen, der Energieinfrastruktur oder in bestimmten Maschinen zum Einsatz kommen.
Aus Sicht des TÜV-Verbands muss bereits jetzt die praktische Umsetzung der KI-Vorgaben vorbereitet werden. Eine wichtige Grundlage sind Normen, Standards und Qualitätskriterien. Darüber hinaus müssen entsprechende Prüfverfahren und -kriterien entwickelt werden. Der TÜV-Verband engagiert sich seit längerem für die Einrichtung von interdisziplinären „AI Quality & Testing Hubs“ auf Länder- und Bundesebene. Die TÜV-Unternehmen bereiten sich derzeit intensiv auf die Prüfung von KI-Systemen vor und haben dafür das „TÜV AI Lab“ gegründet. (rhh)
