Eine Untersuchung von Sosafe zeigt, wie erfolgreich KI-generierte Cyber-Attacken bereits sind. Die größte Gefahr liegt dabei in der einfachen Skalierbarkeit von Spear-Phishing-Angriffen – sowohl was Quantität als auch Qualität angeht.
Neben viel Zuspruch wurden für die aktuellen Entwicklungen im Bereich Künstlicher Intelligenz (KI) auch einige kritische Stimmen in den vergangenen Wochen laut. Dabei warnen Cybersecurity-Expertinnen und -Experten schon seit Längerem vor der Möglichkeit, dass Generative-AI bessere Phishing-E-Mails schreibt, als es der Mensch kann. Erste Untersuchungen zeigen, dass diese Warnung berechtigt ist:
Mit KI verfasste Phishing-E-Mails werden bereits von 78 Prozent der Menschen geöffnet und nicht auf den ersten Blick erkannt. Davon klickten 21 Prozent auf schädliche Inhalte in den KI-verfassten Phishing-Mails, wie Links oder Anhänge. 65 Prozent wurden von den KI-generierten Mails sogar dazu verleitet, persönliche Informationen in Eingabefeldern auf verlinkten Webseiten preiszugeben.
Die von Menschen generierten Phishing-Angriffe klickten die Personen in der durchgeführten Studie vergleichsweise etwas häufiger an (27 Prozent), während die Öffnungsraten bei KI- und menschengenerierten Phishing-E-Mails gleich hoch waren. Die Interaktionsraten waren bei den KI-generierten E-Mails sogar höher, da nur 60 Prozent der Personen zusätzliche Daten bei den von Menschen erstellten E-Mails preisgaben.
„Wichtig anzumerken ist, dass unsere Studie auf Basis des ChatGPT-3.5-Modells mit allgemeinen Themen und Fragen durchgeführt wurde“, so Dr. Niklas Hellemann, CEO und Gründer von Sosafe. „Selbst mit diesen einfachen und nicht personalisierten KI-generierten Phishing-Mails zeigen unsere Daten, dass Menschen Schwierigkeiten haben, KI-generierte Phishing-Angriffe zu erkennen. Da die Technologie mit ausgereifteren Modellen wie ChatGPT-4 und skalierter Personalisierung voranschreitet, erwarten wir, dass die Angriffe noch gefährlicher werden – denn die größte Gefahr liegt in ihrem Skalierungspotenzial.“
Generative-AI-Tools beschleunigen Phishing-Attacken
Untersuchungen des Social-Engineering-Teams von Sosafe zeigen, dass Generative-AI-Tools Hackergruppen dabei helfen können, Phishing-Mails mindestens 40 Prozent schneller zu verfassen. Schon mit einfachen Mitteln können Cyber-Kriminelle ihre Erfolgsraten daher signifikant steigern.
Zugleich sinkt auch die Einstiegshürde für die Durchführung von Spear-Phishing-Angriffen im großen Umfang, bei der Präferenzen und Gewohnheiten von bestimmten Zielpersonen als Basis für maßgeschneiderte Attacken dienen – denn auch die Personalisierung von Phishing-Angriffen wird durch KI skalierbar. KI-Tools können mit persönlichen Informationen gefüttert werden, die dabei helfen, die Qualität der Spear-Phishing-Angriffe auch bei einer hohen Anzahl an Angriffszielen aufrecht zu erhalten.
Des Weiteren bringen Generative-AI-Tools auch kreative Vorteile und verhelfen Cyberkriminellen zu neuen Ideen. So können Hackergruppen in geringerer Zeit weitaus mehr Phishing-Mails in allen Sprachen und in hoher Qualität versenden, als es bisher der Fall war. Großangelegte Phishing-Attacken werden dadurch viel effizienter – und auch effektiver.
Professionalisierung der Cyber-Attacken erfordert erhöhte Aufmerksamkeit
„Mit dem Aufkommen von KI-gestützten ‚Large Language Models‘ und dem dadurch massiv gestiegenen Skalierungspotenzial spitzt sich die Cyber-Bedrohungslage weiter zu“, sagt Hellemann. „Erste Studien haben gezeigt, dass KI schon heute bessere Phishing-Mails schreiben kann als der Mensch. Unsere Daten verdeutlichen die Konsequenzen – denn bereits jeder Fünfte fällt auf KI-erstellte Phishing-Angriffe rein. Und das ist erst der Anfang: Die Technologie wird sich laufend weiterentwickeln und Cyber-Kriminellen weitere Optionen bieten.“
Schon der Sprung von ChatGPT-3 auf ChatGPT-4 bringt laut seiner Einschätzung die Skalierung der Personalisierung auf ein neues Level gehoben: „Aktuell führen wir erste Studien mit diesen fortgeschrittenen Technologien durch und erwarten bald weitere Ergebnisse. Für Unternehmen ist es wichtig, mit dieser Entwicklung Schritt zu halten und Menschen dabei zu helfen, ihr Bewusstsein für Cybergefahren und den Einfluss neuer Technologien zu schärfen, um Attacken zu erkennen sowie zu melden.“ (rhh)
