Anthropics neues Modell: US-Regierung trifft CEO wegen Hacker-KI

Die US-Regierung und der Chef des KI-Unternehmens Anthropic, Dario Amodei, haben sich erstmals seit einem Streit Anfang des Jahres zu Gesprächen getroffen. Wie das Weiße Haus mitteilte, ging es bei dem Treffen am Freitag um eine mögliche Zusammenarbeit sowie um gemeinsame Ansätze zur Bewältigung der Herausforderungen der KI-Modelle von Anthropic.

• Neues KI‑Modell: BSI zeigt sich besorgt
• Streit um "Massenüberwachung": KI-Firma Anthropic verklagt US-Regierung

Anthropic bezeichnete das Treffen als "produktiv". Man habe erörtert, wie man bei zentralen Themen wie Cybersicherheit, der Führungsrolle der USA im Rennen um Künstliche Intelligenz (KI) und KI-Sicherheit zusammenarbeiten könne. Hintergrund sind wachsende Befürchtungen, dass das neueste KI-Modell von Anthropic, "Mythos", Cyberangriffe erheblich verstärken könnte.

Die neue KI von Anthropic hat Cybersicherheitsexperten weltweit alarmiert. Sie ermöglicht es Laien, komplexe Hackerangriffe zu starten. In ersten Tests entdeckte "Mythos" Sicherheitslücken, die trotz zahlreicher Prüfungen durch Menschen jahrelang unerkannt geblieben waren.

Die Bankenbranche gilt wegen ihrer veralteten Technologiesysteme als besonders anfällig für Angriffe durch KI. Regierungsvertreter aus den USA, Kanada und Großbritannien haben sich mit führenden Bankenvertretern getroffen, um die von "Mythos" ausgehenden Bedrohungen zu erörtern. Die Europäische Zentralbank (EZB) will Insidern zufolge mit führenden Bankenmanagern über mögliche Konsequenzen aus dieser Entwicklung beraten.

Das am 7. April angekündigte Anthropic-Modell "Mythos" wird zunächst einigen ausgewählten Unternehmen zur Verfügung gestellt. Im Rahmen der Initiative "Project Glasswing" dürfen die Firmen das Modell nutzen, um nach Schwachstellen in der Cybersicherheit zu suchen.

Bereits vor der Einführung von "Mythos" waren sich die US-Regierung und die Firma aus dem Silicon Valley uneinig über den Einsatz der KI von Anthropic. Auslöser des Streits war die Weigerung des Unternehmens, dem Militär die Nutzung seiner KI für interne Überwachungszwecke oder autonome Waffen zu gestatten.

US-Verteidigungsminister Pete Hegseth hatte Anthropic daraufhin als Risiko für die nationale Sicherheit und die Lieferketten eingestuft. US-Präsident Donald Trump hatte zudem in einem Beitrag in den sozialen Medien angeordnet, dass alle Regierungsbehörden die Nutzung der Künstlichen Intelligenz von Anthropic einstellen sollten.