"Claude Mythos": Neue KI als Cyberwaffe für Kriminelle?

Hacken in Minuten statt in Wochen: Was bisher erheblichen kriminellen Aufwand erforderte, könnte dank Künstlicher Intelligenz bald auf Knopfdruck möglich sein. Das KI-Modell "Claude Mythos" des US-Unternehmens Anthropic soll in Testläufen Tausende bisher unentdeckte Sicherheitslücken in Software gefunden haben - und ist nach Einschätzung seines Herstellers zu gefährlich, um es frei zugänglich zu machen.

Cybersicherheitsfirmen, die Unternehmen gegen digitale Angriffe absichern, haben die Ankündigung hellhörig verfolgt. Mirko Ross, Geschäftsführer der Stuttgarter Firma asvin, beschreibt das Bedrohungspotenzial so:

Laut Dennis-Kenji Kipker, Professor für IT-Sicherheit am Cyber Intelligence Institute, ist Mythos in der Lage, eine große Zahl von Sicherheitslücken im Programmcode automatisiert ausfindig zu machen und sofort auszunutzen. "Man kann sowas natürlich zur Verbesserung der Cybersicherheit einsetzen", sagt Kipker im heute journal. "Aber andererseits können natürlich auch kriminelle Akteure da tätig werden." Ein klassisches Dual-Use-Problem - nur diesmal in einer neuen Dimension.

Besonders gefährdet seien Sektoren, die auf sogenannte Legacy-Software setzen: alte Programme, die tief in Systeme integriert sind und für die es teilweise keine Sicherheitsupdates mehr gibt. Dazu zählt vor allem der Finanzsektor, aber auch Teile der kritischen Infrastruktur. Claudia Plattner, Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI), warnt vor einer dramatischen Beschleunigung der Cyberangriffswellen:

Die Sorgen gehen über die IT-Branche hinaus. Auch der Internationale Währungsfonds (IWF) sieht in Modellen wie Mythos eine mögliche Bedrohung für das globale Finanzsystem. Tools dieser Art verdeutlichten, "inwieweit die sich rasch entwickelnden Cyberrisiken im Zusammenhang mit KI das Finanzsystem destabilisieren könnten, wenn sie nicht sorgfältig gehandhabt werden", erklärte die Finanzabteilung des IWF vergangene Woche. Großangelegte Cyberangriffe könnten demnach Finanzierungsschwierigkeiten auslösen, die Zahlungsfähigkeit von Instituten gefährden und Märkte insgesamt destabilisieren.

Das Bundesfinanzministerium schloss sich dieser Einschätzung an. Die Entwicklung von Modellen wie Mythos bedeute "eine Verschärfung der Cyber-Bedrohungslage, die sich auch auf die Finanzstabilität auswirken kann", sagte eine Ministeriumssprecherin dem Handelsblatt. Man nehme die Lage "sehr ernst" und rechne damit, dass in absehbarer Zeit weitere Modelle mit ähnlichen Fähigkeiten auf den Markt kommen werden. Unternehmen, Behörden und die Gesellschaft insgesamt müssten sich auf eine "stetig wachsende Flut an Sicherheitslücken, Exploits und notwendigen Patches" einstellen.

Anthropic hat Mythos bisher nicht öffentlich freigegeben. Stattdessen kooperiert das Unternehmen im sogenannten "Project Glass Wing" mit rund 50 Partnerfirmen, die ihre Systeme mit dem Modell testen und absichern sollen. Die genannten Unternehmen sind ausnahmslos aus den USA.

"Das bedeutet, dass amerikanische Hersteller in der Lage sind, Sicherheitslücken zu finden und zu schließen - europäische Hersteller aber nicht", erklärt Heiko Roßnagel vom Fraunhofer-Institut für Arbeitswirtschaft und Organisation.

Auch Experte Kipka sieht darin ein strukturelles Problem: Behörden wie das BSI könnten derzeit nicht einschätzen, welche Auswirkungen Mythos auf die nationale Cybersicherheit haben werde - schlicht, weil sie keinen Zugang haben.

Auf Anfrage zeigten sich die größten deutschen Techkonzerne zurückhaltend. Siemens, SAP, Infineon und die Deutsche Telekom äußerten sich nicht dazu, ob sie mit Anthropic kooperieren. Die Telekom teilte lediglich mit, man stehe in Kontakt mit anderen Akteuren und beobachte die Entwicklung weltweit.

Dass die Bedrohungslage keine Theorie mehr ist, zeigt ein aktueller Vorfall. Google gab am vergangenen Montag bekannt, den Versuch einer kriminellen Gruppe vereitelt zu haben, mithilfe Künstlicher Intelligenz eine bislang unbekannte Sicherheitslücke in einem verbreiteten Online-Tool für die Systemverwaltung auszunutzen. Die Angreifer nutzten demnach eine sogenannte Zero-Day-Lücke - eine Schwachstelle, die den Herstellern zuvor unbekannt war und für die es noch keinen Patch gab. Den Namen des Tools nannte Google nicht.

Google informierte das betroffene Unternehmen sowie Strafverfolgungsbehörden und verhinderte nach eigenen Angaben, dass Schaden entstand. Bei der Spurensuche habe der Konzern festgestellt, dass die Angreifer ein KI-Modell eingesetzt hatten, um die Lücke aufzuspüren. Um welches Modell es sich handelte, ließ Google offen - nur so viel: Es sei höchstwahrscheinlich weder Googles eigenes Gemini noch Anthropics Claude Mythos gewesen.

In einem Punkt sind sich die Sicherheitsexperten einig: Es ist höchste Zeit, Vorkehrungen zu treffen, um mit den aktuellen Entwicklungen im KI-Bereich mitzuhalten.

Dennis-Kenji Kipker verweist außerdem auf staatliche Akteure wie China, Iran oder die USA, die solche Technologien für Spionage und Wirtschaftssabotage einsetzen könnten - oder vielleicht schon einsetzen, ohne dass es öffentlich bekannt ist.