Mit dem zunehmenden Einsatz Künstlicher Intelligenz müssen Unternehmen auch die Vorgaben des AI Act berücksichtigen. Im Mittelpunkt stehen Transparenz, eine risikobasierte Betrachtung und klare Verantwortlichkeiten. Das betrifft unter anderem Chatbots, KI-Telefonie sowie bestimmte künstlich erzeugte Inhalte.

Künstliche Intelligenz übernimmt in Unternehmen immer mehr Aufgaben: Sie erstellt Texte, analysiert Daten, sortiert Anfragen oder unterstützt Mitarbeitende bei Routinetätigkeiten. Mit der wachsenden Verbreitung stellt sich zugleich die Frage, welche rechtlichen Vorgaben beim Einsatz der Technologie zu beachten sind.

Florian Horbach, Geschäftsführer der Zeeg GmbH und Experte für KI-Telefonie, warnt dabei vor übertriebener Sorge: „Die Antwort fällt weniger dramatisch aus, als manche Schlagzeile vermuten lässt“.

Der europäische AI Act zielt demnach nicht auf einen Verzicht auf KI, sondern auf einen bewussten und transparenten Umgang mit entsprechenden Systemen. Für Unternehmen bedeutet das vor allem, Einsatzbereiche nachvollziehbar zu machen und Verantwortlichkeiten festzulegen.

Seit dem 2. August gelten laut Pressemitteilung zentrale Transparenzpflichten aus Artikel 50 des AI Act. In bestimmten Fällen müssen Unternehmen Menschen darauf hinweisen, wenn diese unmittelbar mit einem KI-System interagieren. Das kann beispielsweise Chatbots, digitale Assistenten oder automatisierte Kundenservices wie KI-Telefonie betreffen.

Transparenz macht den KI-Einsatz erkennbar

Die Information über den Einsatz eines KI-Systems muss dabei nicht umfangreich ausfallen. Entscheidend ist, dass Nutzer erkennen können, mit welcher Art von System sie interagieren.

Horbach erläutert: „Ein klarer Satz reicht: ‚Sie sprechen mit einem KI-gestützten Assistenten.‘ Anschließend sollte eine einfache Möglichkeit zur persönlichen Unterstützung folgen.“

Eine solche Kennzeichnung schafft nicht nur Klarheit über den Einsatz der Technologie. Sie ermöglicht es Kunden auch, die Kommunikation mit einem automatisierten System entsprechend einzuordnen und bei Bedarf persönliche Unterstützung in Anspruch zu nehmen.

Welche Anforderungen darüber hinaus zu berücksichtigen sind, hängt vom jeweiligen Einsatzgebiet und dem damit verbundenen Risiko ab.

„Eine Anwendung, die Texte zusammenfasst oder interne Abläufe erleichtert, bringt andere Anforderungen mit als eine KI, die über Bewerbungen, Kredite oder den Zugang zu wichtigen Leistungen entscheidet.“ – so der Experte.

Unternehmen sollten deshalb zunächst erfassen, welche KI-Systeme bereits eingesetzt werden. Wichtige Fragen sind dabei:

Wo kommt KI bereits zum Einsatz?
Welche Aufgaben übernimmt sie?
Welche Informationen verarbeitet sie?
Wer trägt die Verantwortung für die Ergebnisse?
Wo braucht es weiterhin menschliche Prüfung?

Eine solche Bestandsaufnahme hilft, aus allgemeinen regulatorischen Vorgaben konkrete betriebliche Zuständigkeiten abzuleiten. Denn auch wenn KI Informationen verarbeitet, Vorschläge erstellt oder Routinen übernimmt, verbleibt die Verantwortung für den Umgang mit den Ergebnissen beim Menschen.

KI-Telefonie erfordert klare Übergabepunkte

Besonders unmittelbar wird die Transparenzfrage bei KI-gestützter Telefonie. Entsprechende Assistenten können Gespräche entgegennehmen, Standardfragen beantworten oder Termine koordinieren. Da eine künstlich erzeugte Stimme schnell menschlich wirken kann, schafft ein Hinweis zu Beginn des Gesprächs Klarheit darüber, dass ein KI-System eingesetzt wird.

Neben der Kennzeichnung spielt die Übergabe an einen Menschen eine wichtige Rolle.

„Ebenso wichtig bleibt eine gute Übergabe an Mitarbeitende, sobald das Anliegen komplizierter, persönlicher oder eine individuelle Einschätzung benötigt wird. KI-Telefonie muss deshalb nicht als Ersatz für den Kundenservice auftreten. Sie kann vor allem Routineaufgaben abfangen und Beschäftigte entlasten“, erläutert Horbach. „‚Made in Germany‘ kann dabei ein zusätzlicher Vertrauensanker sein.“

Eine solche Herkunftsangabe allein ersetzt allerdings keine Prüfung des eingesetzten Angebots. Unternehmen sollten unter anderem klären, wo Daten liegen, wer diese verarbeitet, welche Kontrollmöglichkeiten der Anbieter vorsieht und wie ein menschlicher Ansprechpartner erreicht werden kann.

Auch KI-generierte Inhalte können kennzeichnungspflichtig sein

Die Transparenzanforderungen beschränken sich nicht auf die direkte Interaktion mit KI-Systemen. Auch bestimmte künstlich erzeugte oder veränderte Bilder, Videos und Audiodateien benötigen laut Pressemitteilung eine erkennbare Kennzeichnung. Das betrifft insbesondere Inhalte, die den Eindruck realer Aufnahmen oder authentischer Aussagen vermitteln.

Für die Einordnung kommt es auf den jeweiligen Anwendungsfall an.

„Für Unternehmen bedeutet das: Eine interne Arbeitshilfe mit KI-Unterstützung fällt nicht automatisch in dieselbe Kategorie wie ein öffentlich verbreiteter Beitrag“, hält Horbach fest. „Entscheidend bleiben Einsatz, Inhalt und Wirkung.“

Wer KI bei der Erstellung von Informationen für die Öffentlichkeit verwendet, sollte daher prüfen, ob ein entsprechender Hinweis auf die KI-Bearbeitung notwendig ist.

Verantwortung für KI bleibt im Unternehmen

Der AI Act macht den Einsatz Künstlicher Intelligenz nicht grundsätzlich unmöglich. Vielmehr schafft er Leitplanken, innerhalb derer Unternehmen die Technologie einsetzen können. Daraus ergibt sich die Aufgabe, interne Regeln zu definieren, Mitarbeitende zu sensibilisieren und Verantwortlichkeiten eindeutig zuzuordnen.

Dafür sind nicht zwangsläufig komplexe Kontrollsysteme erforderlich. Transparente Hinweise, nachvollziehbare Zuständigkeiten und die Möglichkeit, bei Bedarf einen Menschen einzubeziehen, bilden wesentliche Elemente für den geregelten Einsatz.

Damit wird Vertrauen zu einem wichtigen Faktor für die Akzeptanz von KI.

Horbach fasst zusammen: „Vertrauen entsteht nicht dadurch, dass Unternehmen KI unsichtbar machen. Es wächst, wenn sie verständlich erklären, wo Technik unterstützt und wo weiterhin der Mensch entscheidet.“