KI-Firma Anthropic verklagt Trump-Regierung

Das US-Unternehmen Anthropic hat im Streit um die Nutzung Künstlicher Intelligenz (KI) für das US-Militär Klage gegen die US-Regierung erhoben. In der am Montag bei einem Bundesgericht in San Francisco eingereichten 48-seitigen Klageschrift fordert Anthropic, dass die durch das Pentagon vorgenommene Einstufung des Unternehmens als "Sicherheitsrisiko in der Lieferkette" für gesetzwidrig erklärt und gestoppt wird.

Der Konzern um den Chatbot Claude hatte dem Pentagon die uneingeschränkte militärische Nutzung seiner Technologie verweigert. Anthropic hatte erklärt, es wolle seine KI-Technologie nicht wie von der Regierung gewünscht für die "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen.

• KI im Militär: Wo wird sie genutzt und wo liegen Grenzen?

Verteidigungsminister Pete Hegseth ließ Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" einstufen. Präsident Donald Trump ordnete an, dass alle US-Bundesbehörden die Nutzung von Anthropic-Technologie einstellen sollen. Anthropic war bisher die einzige KI-Firma, deren Software auch für eine als vertraulich eingestufte Nutzung im US-Militär freigegeben war.

Nun ist die Firma das erste US-Unternehmen überhaupt, das mit einer derartigen Maßnahme öffentlich abgestraft wird. Eine solche Bewertung vergibt die US-Regierung üblicherweise an Unternehmen aus Ländern, die von den USA als Gegner betrachtet werden, wie etwa den chinesischen Technologiekonzern Huawei.

Nach dem Streit mit Anthropic schloss der ChatGPT-Entwickler OpenAI eine Vereinbarung mit dem Pentagon. OpenAI-Chef Sam Altman ließ sich zwar auf die Bedingungen des Ministeriums ein, versicherte aber später, dass es technische Hürden für den Einsatz zur Massenüberwachung in den USA geben sollte. Die Robotik-Chefin von OpenAI, Caitlin Kalinowski, trat am Wochenende aus Protest gegen den Deal zurück. Anthropics KI-Software Claude ist ein scharfer Konkurrent von ChatGPT unter anderem für den Einsatz in Unternehmen.

Anthropic-Chef Dario Amodei warnte, dass Künstliche Intelligenz es möglich mache, über das Netz verstreute Daten einzelner Menschen in großem Stil automatisiert zu einem detaillierten Bild ihres Lebens zusammenzusetzen. Zugleich sei KI noch nicht verlässlich genug, um in vollständig autonomen Waffen eingesetzt zu werden. "Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Kämpfer und Zivilisten in Gefahr bringt", schrieb Amodei in einem Blogbeitrag.