Generative KI verändert Geschäftsprozesse – und stellt IT-Sicherheitskonzepte auf die Probe. TÜV Rheinland beleuchtet im aktuellen Whitepaper Risiken durch Large Language Models (LLMs) und empfiehlt konkrete Maßnahmen. Penetration Testing soll dabei helfen, Schwachstellen frühzeitig zu erkennen und zu beheben.

Generative KI-Systeme eröffnen neue Möglichkeiten – und zugleich neue Angriffspunkte. Der TÜV Rheinland warnt in seinem aktuellen Whitepaper „Ist Ihr KI-System sicher?“ vor den sicherheitstechnischen Herausforderungen, die durch den Einsatz großer Sprachmodelle (Large Language Models, LLMs) entstehen. Unternehmen, die KI etwa in Chatbots, Entscheidungsprozessen oder Assistenzsystemen einsetzen, sehen sich mit bisher unbekannten Bedrohungsszenarien konfrontiert.

Ein zentrales Risiko sind sogenannte Prompt Injections. Dabei schleusen Angreifer gezielt manipulierte Eingaben ein. Diese führen zu unvorhersehbarem Verhalten oder geben vertrauliche Informationen preis. Weitere Gefahren entstehen, wenn Unternehmen Ergebnisse generativer KI unkritisch übernehmen – zum Beispiel fehlerhaften Code – oder wenn Trainingsdaten manipuliert wurden.

„Unternehmen müssen ihre Sicherheitskonzepte anpassen, um den Risiken von KI-Systemen gerecht zu werden“, erklärt Daniel Hanke, Experte für KI-Sicherheit bei TÜV Rheinland.

Penetration Testing als präventive Schutzmaßnahme

Ein zentrales Mittel zur Absicherung von KI-Systemen ist laut TÜV Rheinland das Penetration Testing. In simulierten Angriffsszenarien untersuchen Expertenteams gezielt mögliche Schwachstellen – auch unter Einsatz KI-spezifischer Methoden wie Black-Box- oder Gray-Box-Tests. Diese werden auf generative Modelle und deren spezifische Funktionsweise zugeschnitten.

„KI-Systeme sind komplex und intransparent. Das erfordert neue Testansätze. Durch regelmäßige Penetration Tests können Unternehmen ihre Systeme widerstandsfähig machen und somit regulatorische Vorgaben erfüllen. Außerdem stärken sie so das Vertrauen von Partnern und Kunden“, so Hanke weiter.

Dabei gewinnt auch der regulatorische Kontext an Bedeutung. Normen wie der EU AI Act fordern zunehmend systematisches Risikomanagement – eine Anforderung, der Unternehmen mit Maßnahmen wie Pentesting frühzeitig begegnen können.

Verantwortungsvoller KI-Einsatz durch Standards und Zertifizierungen

Neben der Analyse von Bedrohungsszenarien unterstützt TÜV Rheinland Unternehmen mit einem ganzheitlichen Ansatz: von der Durchführung professioneller Tests über datenbasierte Risikoanalysen bis hin zur Zertifizierung nach international anerkannten Standards wie ISO 42001.

„Wer die Chancen generativer KI nutzen will, muss ihrer Sicherheit oberste Priorität einräumen. So lässt sich das Potenzial dieser Technologien verantwortungsvoll erschließen“, betont KI-Experte Daniel Hanke.

Unternehmen, die KI-Systeme produktiv einsetzen oder dies planen, finden im Whitepaper praxisnahe Handlungsempfehlungen sowie einen Überblick zu typischen Bedrohungen und Schutzmaßnahmen. Es steht hier zur Verfügung.

Weitere Informationen zu TÜV finden Sie hier.