Nach Streit: Trump spricht wohlwollend über KI-Firma Anthropic

Die KI-Firma Anthropic kann sich nach dem Richtungsstreit mit dem Pentagon wieder Hoffnungen auf ein besseres Verhältnis zur US-Regierung machen. "Wir verstehen uns mit ihnen", sagte Präsident Donald Trump in einem Interview des Wirtschaftssenders CNBC. Er verwies darauf, dass Vertreter von Anthropic vor einigen Tagen zu Gesprächen im Weißen Haus waren.

Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz massiven Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen. Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko. Trump wies US-Behörden an, keine Geschäfte mit dem Unternehmen zu machen. Anthropic zog dagegen vor Gericht.

• Kehrtwende: US-Regierung trifft Anthropic - wegen Hacker-KI

Zuletzt demonstrierte Anthropic aber, wie wichtig Technologie des Unternehmens für die US-Regierung ist: Ein neues Anthropic-Modell mit dem Namen "Claude Mythos Preview" findet zum Teil seit Jahrzehnten unentdeckt gebliebene Schwachstellen in verschiedener Software. In den falschen Händen wäre die Künstliche Intelligenz (KI) damit eine gefährliche Cyberwaffe - und könnte zugleich der US-Regierung einen Vorteil geben, eigene Programme zu härten und potenzielle Schwachstellen für Spionage im Ausland auszunutzen. Anthropic hat keine Pläne, Mythos Preview öffentlich zu machen.

Eine kleine Gruppe unbefugter Nutzer verschaffte sich währenddessen einem Medienbericht zufolge Zugang zu dem umstrittenen neuen KI-Modell. Wie die Nachrichtenagentur Bloomberg am Dienstag unter Berufung auf Dokumente und einen Insider meldete, erlangten die Personen in einem privaten Online-Forum Zugriff auf die Software. Dies sei genau an dem Tag geschehen, an dem Anthropic Pläne für eine begrenzte Testphase des Modells angekündigt habe. Seitdem nutze die Gruppe das Modell regelmäßig, jedoch nicht für Zwecke der Cybersicherheit.

Anthropic teilte mit, man untersuche einen Bericht zu einem unbefugten Zugriff auf die Vorabversion "Claude Mythos Preview" über die Umgebung eines Drittanbieters.

Anthropic hatte Mythos am 7. April vorgestellt. Die Vorabversion wird im Rahmen des sogenannten "Project Glasswing" ausschließlich ausgewählten Organisationen aus dem Bereich der defensiven Cybersicherheit zur Verfügung gestellt. Mythos gilt als das bislang leistungsfähigste Modell des Unternehmens für Programmieraufgaben und autonomes Handeln.