KI außer Kontrolle: Was steckt hinter den neuen Hackerangriffen?

Immer häufiger steckt Künstliche Intelligenz hinter Cyberattacken. Nun ist auch ein Programm des Facebook-Konzerns Meta damit aufgefallen. Was steckt hinter den Vorfällen bei Meta, OpenAI und Anthropic?

Führende KI-Unternehmen aus den USA haben eingeräumt, dass ihre fortschrittlichen Sprachmodelle im Rahmen von Sicherheitsüberprüfungen oder realen Tests nicht nur eigenständig IT-Schwachstellen identifiziert und ausgenutzt haben - sondern auch unbeabsichtigt im Netz andere Unternehmen angegriffen haben.

Die breite Öffentlichkeit kennt KIs vor allem für das Schreiben von Texten. Diese Fälle verdeutlichen aber, dass die Modelle auch deutlich heiklere Aufgaben übernehmen können - sowohl das Aufspüren von Sicherheitslücken als auch das Umgehen von Sicherheitsbarrieren und andere Fähigkeiten, die sich auch für Cyberkriminalität eignen.

Entwickler räumen ihren Modellen immer mehr Handlungsspielraum ein, gleichzeitig können die autonomen KI-Agenten auch viel mehr. Sie führen eigenständig Befehle aus, steuern Software und nutzen Schnittstellen im Internet.

Nach aktuellem Erkenntnisstand handelten die KI-Systeme nicht aus eigenem "Willen". Sie erhielten von menschlichen Nutzern oder Tester-Teams Vorgaben, um die Sicherheit von Zielsystemen zu überprüfen. Der entscheidende Unterschied zu früher ist jedoch der Grad der Selbstständigkeit: Die KI erhielt nur eine allgemeine Aufgabe ("Finde einen Zugang zu diesem Server") und kombinierte anschließend eigenständig die erforderlichen Schritte, um das Ziel ohne weitere menschliche Anleitung zu erreichen.

Klassische Viren oder Trojaner folgen einem starr programmierten Ablauf. Ändert das Zielsystem seine Verteidigung, scheitert der Angriff meist. Ein KI-System hingegen kann flexibel reagieren. Es analysiert Fehlermeldungen in Echtzeit, passt seine Strategie an und probiert neue Methoden aus - ähnlich wie ein menschlicher Hacker, allerdings in einem Bruchteil der Zeit und mit schier unendlicher Geduld.

Dass die Tech-Konzerne die Vorfälle nun öffentlich einräumen, dürfte nicht nur mit Transparenz zusammenhängen. Dahinter könnte auch PR-Kalkül und geschicktes Marketing stehen, sagt der IT-Sicherheitsexperte Christoph Fischer. "Das gehört wohl auch zur Vorbereitung auf einen möglichen Börsengang mit dazu."

Dass Meta den Vorfall ausgerechnet am Tag der Präsentation seines neuesten KI-Modells einräumte, dürfte daher kein Zufall sein. Nicht nur Fischer vermutet: Das Thema dient als indirekte Eigenwerbung. Die Botschaft an den Markt lautet unterschwellig, dass die eigene KI mittlerweile so leistungsfähig ist, dass sie selbst komplexe IT-Systeme überlisten kann.

In den behandelten Fällen kam es nach Angaben der Hersteller zu keinen flächendeckenden Netzwerkausfällen oder großflächigem Datendiebstahl bei Endkunden. Die Vorfälle wurden größtenteils in kontrollierten Testumgebungen oder frühzeitig bemerkt. Der eigentliche Schaden liegt im Vertrauensverlust und in der Erkenntnis, dass die Sicherheitsbarrieren der Hersteller bislang nicht lückenlos funktionieren.

Damit gewöhnliche KI-Produkte nicht zu Hacker-Waffen werden, haben die Entwickler verschiedene Schutzmaßnahmen eingerichtet. Zum einen werden die Modelle durch Nachtraining darauf konditioniert, Anfragen mit Bezug auf Cyberangriffe strikt zu verweigern. Zum anderen richten die Unternehmen rund um die KI automatische Filter ein, die verdächtiges Verhalten - wie das massenhafte Scannen von IP-Adressen - entdecken und sofort unterbrechen sollen.