KI verändert nicht nur die Angriffsmethoden, sondern auch das Tempo von Cyberangriffen. Für mittelständische Unternehmen wird es deshalb wichtiger, Sicherheitsereignisse schneller zu bewerten und darauf zu reagieren. KI-Agenten können dabei helfen – vorausgesetzt, ihre Autonomie bleibt kontrollierbar. – Ein Beitrag von Markus Ehrenmann, CTO bei Open Systems.
Cloud-Dienste, vernetzte Standorte, zahlreiche Identitäten und Sicherheitslösungen – IT-Teams müssen heute Infrastrukturen schützen, die immer komplexer werden. Gerade im Mittelstand sind spezialisierte Fachkräfte oft nur begrenzt verfügbar. Hinzu kommt, dass Angreifer zunehmend KI einsetzen, um Prozesse zu beschleunigen und ihre Angriffe zu automatisieren. Wenn Angriffe in Maschinengeschwindigkeit erfolgen, muss auch die Verteidigung schneller werden, um Schritt zu halten. Manuelle Analysen reichen dafür oft nicht aus.
KI-Agenten bieten hier einen Lösungsansatz. Sie können Informationen aus unterschiedlichen Quellen zusammenführen, Auffälligkeiten untersuchen und geeignete Maßnahmen vorbereiten oder innerhalb definierter Grenzen selbst ausführen. Ihr Potenzial geht über die Automatisierung einzelner Aufgaben hinaus, da sie Zusammenhänge schneller erkennen und Sicherheitsteams gezielt entlasten können. Doch worauf kommt es dabei an? Eine wirksame KI-gestützte Verteidigung muss Angriffe auf mehreren Ebenen erkennen können, autonome Aktionen kontrollieren und Menschen dort einbinden, wo Urteilsvermögen und Verantwortung gefragt sind.
Perimeterschutz allein reicht nicht mehr
Die Annahme, ein Unternehmen lasse sich an seiner Netzwerkgrenze schützen, trägt nur noch bedingt. Die Grenze zwischen „innen“ und „außen“ verschwimmt: Mitarbeitende arbeiten mobil, Anwendungen laufen in der Cloud, und Dienstleister greifen über eigene Zugänge auf Systeme zu. Viele Angriffe beginnen zudem nicht mit einem technischen Einbruch, sondern mit gestohlenen Zugangsdaten, Phishing oder kompromittierten Konten – und wirken damit zunächst unauffällig. Wer einmal Zugriff hat, kann sich häufig lange unbemerkt im Netz bewegen.
Unternehmen sollten deshalb davon ausgehen, dass nicht jeder Angriff abgewehrt wird. Eine wirksame Sicherheitsstrategie verbindet daher Prävention mit Erkennung: Sie versucht, Angriffe möglichst früh zu stoppen, und sorgt zugleich dafür, dass Angreifer, die bereits im Netz sind, schnell entdeckt werden. KI-Agenten können beide Aufgaben unterstützen, indem sie Signale aus verschiedenen Quellen auswerten, Aktivitäten miteinander verknüpfen und Hinweise auf verdächtiges Verhalten sichtbar machen. Sie helfen damit nicht nur, Angriffe zu verhindern, sondern auch, unentdeckte Aktivitäten aufzuspüren und darauf zu reagieren.
Mehr Autonomie, aber mit klaren Grenzen
Je autonomer KI Aufgaben übernimmt, desto wichtiger wird es, ihren Handlungsspielraum zu kontrollieren. Ein Agent kann beispielsweise ungewöhnliche Netzwerkaktivitäten mit früheren Ereignissen vergleichen und eine Handlung empfehlen. Ob er diese Handlung auch ausführen darf, hängt von ihrem Risikolevel ab. Risikoarme Maßnahmen lassen sich leichter automatisieren, da die Konsequenzen einer Fehleinschätzung geringer sind. Verschieben KI-Agenten beispielsweise verdächtige Dateien in Quarantäne, kann dieser Schritt leicht rückgängig gemacht werden. Eingriffe mit weitreichenden Folgen – etwa Änderungen an Sicherheitsrichtlinien oder Zugriffsrechten – sollten hingegen strengeren Freigaben unterliegen. Fehlen wichtige Informationen für eine Entscheidung, sollte das System den Vorgang an einen Menschen übergeben.
Dafür müssen Unternehmen den Handlungsspielraum ihrer Agenten bewusst festlegen: Welche Daten dürfen sie nutzen? Welche Aktionen sind erlaubt? Wann ist eine Freigabe erforderlich? Und wie lassen sich Entscheidungen und ausgeführte Aktionen nachträglich überprüfen? Das ist nicht nur eine Frage der Sicherheit: Eine lückenlose Dokumentation aller Vorgänge erleichtert auch die Erfüllung von Nachweispflichten, etwa im Zuge der NIS2-Umsetzung oder gegenüber Auditoren.
Menschliche Kontrolle bleibt entscheidend
Mit zunehmender Autonomie verändert sich auch die Rolle der Sicherheitsteams. Sie müssen weniger Zeit für wiederkehrende Analysen und Routineaufgaben aufwenden und können sich stärker auf komplexe Vorfälle, Richtlinien und Entscheidungen mit größerer Tragweite konzentrieren. Dafür müssen sie jedoch nachvollziehen können, wie die KI zu einer Empfehlung kommt, welche Aktionen sie ausgeführt hat und wann sie Unterstützung benötigt.
Verantwortung lässt sich also nicht an einen Agenten delegieren. Vielmehr braucht es ein Betriebsmodell, das automatisierte Abläufe, menschliche Kontrolle und klare Zuständigkeiten miteinander verbindet. Zudem sollten Unternehmen stets kontrollieren können, welche Daten ihre KI-Systeme verarbeiten, von welchen Modellen und Anbietern sie abhängig sind und welche Befugnisse die Agenten besitzen. Genau das ist der Kern digitaler Souveränität in der IT-Sicherheit: handlungsfähig zu bleiben, auch wenn sich Rahmenbedingungen ändern.
Fazit
Für mittelständische Unternehmen bieten KI-Agenten die Chance, begrenzte personelle Ressourcen gezielter einzusetzen und mit der zunehmenden Geschwindigkeit von KI-gestützten Angriffen Schritt zu halten. Sie können große Mengen an Sicherheitsdaten schneller analysieren, Muster erkennen und Reaktionen beschleunigen, ohne dass jeder Schritt manuell erfolgen muss. Entscheidend ist jedoch, dass mehr Geschwindigkeit nicht zulasten der Kontrolle geht: Klare Handlungsgrenzen und menschliches Urteilsvermögen ermöglichen es, die Vorteile von KI zu nutzen und gleichzeitig die Sicherheit des Betriebs zu gewährleisten. Drei Fragen helfen bei der Einordnung: Wer im Team trägt die Verantwortung für die Entscheidungen des Agenten? Wie schnell lässt sich sein Handlungsspielraum im Zweifel einschränken oder der Agent ganz stoppen? Und woran lässt sich erkennen, dass er zuverlässig arbeitet?
Quelle: Open SystemsHier finden Sie weitere Informationen zu Open Systems.