Mit der neuen Transparenzpflicht für KI-Systeme ist ein wichtiger Schritt getan. Jedoch löst sie nach Ansicht von Carolin Edler-Mende, Geschäftsführerin der Aristech GmbH, nicht die eigentlichen Herausforderungen beim Einsatz generativer KI. Entscheidend seien klare Verantwortlichkeiten, realistische Erwartungen an die Technologie und ein bewusster Umgang mit den verbleibenden Risiken. Transparenz allein reiche nicht aus, um KI-Anwendungen verantwortungsvoll in der Praxis einzusetzen.
Ab dem 2. August müssen Unternehmen offenlegen, wenn Menschen mit einem KI-System interagieren. Für Voice AI ist das eine sinnvolle und notwendige Vorgabe. Wer mit einem Sprachbot spricht, sollte nicht im Unklaren darüber gelassen werden, ob am anderen Ende ein Mensch oder eine Maschine antwortet. Doch die Kennzeichnung ist der einfache Teil.
Ein Voicebot kann sich mit einem Satz als KI zu erkennen geben. Schwieriger ist, was danach passiert: Wie zuverlässig muss das System sein? Wann muss ein Mensch übernehmen? Und wer trägt Verantwortung, wenn eine Antwort falsch, unpassend oder schädlich ist?
Moderne Sprachmodelle sind nicht vollständig deterministisch. Sie lassen sich sorgfältig entwickeln, testen und absichern, aber niemand kann jede denkbare Gesprächssituation vorwegnehmen und jeden einzelnen Output garantieren. Genau hier entsteht ein Spannungsfeld: Unternehmen sollen Verantwortung übernehmen, zugleich wird häufig eine Form vollständiger Absicherung erwartet, die generative KI technisch nicht leisten kann.
In der Praxis führt das schnell zu einem vertrauten Muster. Das einsetzende Unternehmen möchte sich gegenüber dem Technologieanbieter absichern. Der Anbieter kann wiederum keine Garantie für jeden möglichen Output geben. Das Management muss entscheiden, welches verbleibende Risiko es tragen kann. Weil diese Verantwortung häufig nicht klar verteilt ist, werden Projekte stärker eingeschränkt, verzögert oder gar nicht erst umgesetzt. Doch der Rückzug ins Nichtstun ist nicht automatisch die sicherere Entscheidung. Wenn jedes begrenzbare Restrisiko zum Ausschlusskriterium wird, verhindern wir im Zweifel auch gute, sinnvolle KI-Anwendungen.
Verantwortlicher Einsatz bedeutet deshalb nicht, jedes denkbare Risiko auszuschließen. Er bedeutet, den Anwendungsfall klar zu begrenzen, Systeme sorgfältig zu testen, verlässliche Eskalationswege vorzusehen und Zuständigkeiten eindeutig zu verteilen. Zugleich müssen wir anerkennen, dass sich das Restrisiko generativer KI nicht allein technisch lösen lässt. Wer mit KI-Systemen interagiert, muss ihre Fähigkeiten und Grenzen zumindest grundsätzlich einordnen können. Eine Gesellschaft, die KI flächendeckend einsetzen will, ohne in AI Literacy zu investieren, verlangt von der Technologie eine Sicherheit, die sie selbst nicht vorbereitet hat.
Die Transparenzpflicht setzt also einen sinnvollen Anfang. Sie löst jedoch nicht das eigentliche Problem: Wir haben es mit einer Technologie zu tun, die leistungsfähig ist, aber nicht in jeder Situation vollständig vorhersehbar. Wer von generativer KI vollständige Vorhersehbarkeit verlangt, verhindert nicht nur schlechte Anwendungen. Er verhindert auch gute.
Quelle: © A.Löffler/ FotoAgentenCarolin Edler-Mende ist Mitgründerin und Geschäftsführerin der Aristech GmbH. Seit der Gründung vor 12 Jahren entwickeln sie und ihr Team KI-basierte Sprachtechnologien, um die Digitalisierung der Kundenkommunikation voranzutreiben. Zudem engagiert sie sich für mehr Diversität in der IT-Branche.
Weitere Informationen zur Aristech GmbH finden Sie hier.