50.000 gefälschte Nutzerkonten, unzählige gefälschte Webseiten und mehr als eine Million Tweets mit falschen Informationen – diese Zahlen stammen vom Auswärtigen Amt, gesammelt und analysiert auf der Social Media Plattform X. Die Gefahr der Desinformation und ihrer Verbreitung über soziale Medien ist nicht neu, es wird durch die mangelnde Prüfung der Tech-Konzerne sogar immer einfacher die Kanäle auszunutzen, um im großen Stil Kampagnen zu fahren und die Öffentlichkeit zu beeinflussen.
Bösartige Akteure sind bekannt dafür, dass sie in den sozialen Medien Troll-Farmen zu Desinformations- und Propagandazwecken betreiben. Auch die Erstellung von Fake-News-Websites und die Generierung von Traffic durch gefälschte Social-Media-Konten ist ein sehr bekannter Modus Operandi dieser Akteure. Erst vor einigen Monaten wurde berichtet, dass gefälschte Websites für den Spiegel oder Fox News erstellt wurden, um Desinformationen in der Ukraine zu verbreiten. Letztes Jahr wurde derselbe Vorgang auch in Frankreich beobachtet.
Die Möglichkeiten der generativen KI versetzen erfahrene Programmierer in die Lage, sehr schnell „Lookalike Domains“ im großen Stil zu erstellen und dank Chat-basierter Artikel zu füttern. Diese Webseiten sind darauf ausgelegt, Buchstaben und Zeichen auszunutzen, die leicht verwechselt werden können.
Beispielsweise sehen die Domänen „company.com“ und „cornpany.com“ so ähnlich aus, dass sie jemanden täuschen könnten, der nicht aufpasst. Auch das Nutzen kyrillischer Schriftzeichen wie der Null am Platz eines „O“ im arabischen Alphabet ermöglicht es täuschende Domains zu erstellen und diese dann zur Verwendung von Business E-Mail Compromise-Angriffen und dergleichen einzusetzen.
Bösartige Akteure machen sich die Algorithmen zu Nutze, um ihre Inhalte zu multiplizieren. Möglichkeiten die Roboter dank echter menschlicher Interaktion auszutricksen haben in der Vergangenheit immer wieder Klickfarmen aufgezeigt.
Gegen Desinformation, vor allem wenn sie von vermeintlich legitimen Webseiten zu stammen scheint, ist schwer zu agieren. Vor allem aus technischer Sicht ist das Auffinden und Abschalten der Plattformen und Webseiten ein langwieriges und kompliziertes Unterfangen. Zu einfach scheint die Hürde für die Ersteller die Webseiten zu erzeugen und mit Inhalten zu füllen.
Doch es existiert ein Weg, um zumindest gegen Lookalike Domains vorzugehen und das sogenannte Brand-Spoofing zu verhindern: Speziell trainierte Software verwendet eine URL-Zeichenfolge oder den Inhalt einer Webseite als Eingabe. Sie extrahiert Merkmale und vergleicht sie beispielsweise mit der Domain, Favicon, Copyright, Titel, Textähnlichkeit und mehr, um die Fälschung zu identifizieren.
Neu registrierte Domains werden dann auf Brand-Spoofing-Versuche untersucht, automatisiert erkannt und blockiert. Dies verhindert den Start der Desinformations-Kampagne bevor die Verbreitung über soziale Medien überhaupt beginnt. Dies ist dann ein positives Beispiel wie der Einsatz von KI zum Nutzen der Gesellschaft eingesetzt wird. Allerdings scheinen sich im aktuellen Spannungsfeld rund um generative KI deutlich mehr Negativbeispiele abzubilden.
Marco Eggerling ist CISO für den Bereich EMEA bei Check Point Software Technologies Ltd.
