Kaum ist DeepSeek AI auf dem Markt, hat das Startup aus China mit Cyberangriffen zu kämpfen. Nach Sophos X-Ops aktuellsten Bericht stehen die Bedrohungsakteure jedoch dem KI-Einsatz noch skeptisch gegenüber und nutzen sie nicht intensiv für ihre Kampagnen. – Also doch „nur“ ein Missgeschick?
Kurz nach ihrer Veröffentlichung ist die chinesische KI-Anwendung des Startups DeepSeek in manchen Ländern gesperrt. Grund dafür sind mangelhafte Sicherheitsvorkehrungen. Wie CIO vor wenigen Stunden berichtete, war eine Datenbank von DeepSeek mit sensiblen Daten temporär für jedermann im Internet einsehbar.
Startup meldet Cyberangriffe
Bereits zu Beginn der Woche waren Anmeldungen bei DeepSeek AI – wie die ZEIT berichtete – nicht mehr möglich. Nach eigenen Angaben sah sich das KI-Startup heftigen Cyberattacken gegenüber. Diesen sei es verschuldet gewesen, dass sich neue Nutzer vorerst nicht anmelden konnten.
In den USA hatte der chinesische KI-Chatbot mit seinen Downloadzahlen bereits die App ChatGPT von OpenAI im Apple-App-Store deutlich überholt. Als Auslöser für den sofortigen Erfolg von DeepSeek AI, gab das Startup selbst die effiziente Entwicklung der KI-Anwendung an. Diese hatte lediglich 5,6 Millionen US-Dollar benötigt – ein Bruchteil im Vergleich zu den milliardenhohen investierten Beträgen von US-Technologieriesen wie Nvidia, Meta oder Alphabet. Infolgedessen bangten US-Unternehmen um ihre vorherrschende Dominanz im Bereich GenAI, sodass die Kurse von US-Tech-Unternehmen, die in KI investieren, einbrachen.
Sensible Daten im Netz zugänglich
Neben dem Login-Problem entdeckten US-amerikanische Sicherheitsforscher – lt. CIO – eine große Datenbank mit sensiblen Daten von der KI-Anwendung DeepSeek. Auch Wiz bestätigte innerhalb eines Reports, dass DeepSeek eine seiner wichtigen Datenbanken ungeschützt im Internet veröffentlicht hatte. Damit waren mehr als eine Millionen Datensätze, u. a. auch Benutzereingaben, für jeden im Internet frei verfügbar.
Nach der Entdeckung der ungeschützten Datenbank war es den Forschern jedoch nicht gleich möglich Sicherheitsexperten beim chinesischen Startup zu erreichen: eine offizielle Anlaufstelle für Sicherheitshinweise fehlte. Woraufhin die Meldung zur Sicherheitslücke an diverse E-Mail-Adressen und LinkedIn-Profile von DeepSeek verschickt wurde. Bislang blieben diese allerdings seitens DeepSeek unbeantwortet.
Datenbank wieder gesperrt
Offenbar reagierte DeepSeek aber auf die eingegangenen Hinweise und sperrte die Datenbank binnen einer Stunde. Daraufhin hatten nicht autorisierte Benutzer keinen Zugriff mehr. Unklar bleibt hingegen, ob vorher unberechtigte Zugriffe und Downloads stattfanden. Generell warnen viele Experten davor, sensible Daten einer KI in der Cloud anzuvertrauen. Nach neuesten Erkenntnissen analysieren trotzdem Nutzer z. B. ihre finanzielle Situation oder übertragen damit komplizierte Arztbriefe in eine verständliche Sprache.
Cyberkriminelle am Werk?
Nach einem vom Sophos X-Ops veröffentlichen Bericht zur KI-Nutzung von Cyberkriminellen stehen diese der eigenen Nutzung von KI bisher zögerlich gegenüber. In einem bereits im November 2023 herausgebrachten Bericht, konnte Sophos eine deutliche Skepsis bei Cyberkriminellen gegenüber der Verlässlichkeit von KI belegen.
Im Vergleich dazu, ist im neuesten Report nur eine leichte Veränderung festzustellen. Dies betrifft die Art und Weise wie Cyberkriminelle KI diskutieren und einsetzen. Demnach haben einige begonnen generative KI in ihren Werkzeugkasten aufzunehmen, um sie vorrangig für Spamming, Open-Source-Intelligence (OSINT) und in geringerem Maße für Social Engineering anzuwenden.
„Wie schon vor einem Jahr scheint KI unter den Cyberkriminellen in den von uns untersuchten Foren immer noch kein heißes Thema zu sein. In einem bekannten russischsprachigen Forum und auf einem Marktplatz wurden beispielsweise im letzten Jahr weniger als 150 Beiträge über GPTs oder LLMs veröffentlicht. Diesem Kommunikationsaufkommen stehen mehr als 1.000 Beiträge über Kryptowährungen und über 600 Threads im Bereich „Access“, als dem Handel mit Zugangsdaten, im gleichen Zeitraum gegenüber“, sagt Chet Wisniewski, Field CTO bei Sophos.
Nur wenige nutzen bisher tatsächlich KI für die Automatisierung von Routineaufgaben. Bei komplexeren Aufgaben verlassen sie sich jedoch nicht auf diese Technologie. In den untersuchten Cybercrime-Foren ist die Skepsis gegenüber KI nach wie vor hoch.
„Viele Bedrohungsakteure scheinen nach wie vor eine zögernde Haltung zu haben, sie warten die weitere Entwicklung der Technologie, und wie sie diese am besten in ihre Arbeitsabläufe integrieren können, ab. Bewegung in die ganze Sache könnte DeepSeek mit seinem Open-Source-Charakter bringen, der zu Missbrauch durch Cyberkriminelle führen könnte. Es ist jedoch wichtig zu beachten, dass das intensive Arbeiten mit DeepSeek immer noch weitaus mehr Ressourcen erfordert, als der durchschnittliche Cyberkriminelle zur Verfügung hat“ – so Chet Wisniewski.