US-Unternehmen:Anthropic: Weltweite Pause bei KI-Entwicklung "sinnvoll"
Braucht die weltweite KI-Entwicklung eine Pause? Das auf KI-spezialisierte US-Unternehmen Anthropic hält das für sinnvoll - für Gesellschaft und Forschung.
Anthropic hält eine Pause bei der KI-Entwicklung für sinnvoll. (Symbolbild)
Quelle: AFPDer auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre "wahrscheinlich sinnvoll", erklärte der in San Francisco beheimatete Konzern am Donnerstag (Ortszeit).
Es müssten aber alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.
Anthropic: KI-Pause "wünschenswert"
"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", erklärte Anthropic.
Anthropic entwickelt mit "Claude Mythos" eine KI, die unbekannte Softwarelücken aufdeckt. Doch genau diese Lücken könnte sie auch ausnutzen. Zu gefährlich für die Öffentlichkeit?
17.05.2026 | 3:13 minDamit eine Pause tatsächlich Wirkung zeigen könnte, müssten sich nach Ansicht von Anthropic führende KI-Konzerne in verschiedenen Ländern - allen voran in den USA und China - darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten Regeln aufgestellt und eingehalten werden, "die für alle überprüfbar wären".
Anthropic sorgte mit KI-Modell Mythos für Aufsehen
Anthropic ist für seinen Chatbot Claude bekannt, der vor allem von Unternehmen genutzt wird. Zudem arbeitet Anthropic an einem KI-Modell namens Mythos, das Lücken in Cybersicherheitssystemen aufspüren soll.
Die KI "Claude Mythos" von Anthropic könnte laut BSI zu "Umwälzungen im Umgang mit Sicherheitslücken" führen. Mit dem Hersteller stehe man im Austausch.
10.04.2026 | 0:48 minNeben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken auszuloten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe nutzen.
Rechtsstreit mit der US-Regierung
Anthropic steht derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern erklärte, er wolle KI nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen.
Der SPD-Digitalexperte Matthias Mieves fordert, das KI-Unternehmen Anthropic nach Europa zu holen. Er sieht darin eine Chance für mehr digitale Souveränität.
03.03.2026 | 0:32 minDas Pentagon stufte Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" ein, wogegen das Unternehmen sich juristisch wehrt. Am Montag hatte Anthropic seinen Börsengang angemeldet.
Wichtiger Hinweis in eigener Sache
Wer bei Google etwas sucht, bekommt neben den Suchergebnissen auch eine Box mit Schlagzeilen angezeigt.
Mit ZDFheute als hinterlegter Quelle bekommen Sie unsere Inhalte häufiger in die Schlagzeilen-Box gespielt - geprüfte Inhalte, direkt in Ihrem Überblick.
→ Hier ZDFheute als bevorzugte Quelle einstellen.
Mehr zu Anthropic
Anthropic stellt neue KI vor:"Claude Mythos" setzt die Cybersicherheit unter Druck
von Patrick Müthingmit Video6:50"Claude Mythos" von Anthropic:Neues KI‑Modell: BSI zeigt sich besorgt
mit Video0:48Anthropic plant Entschädigung:KI-Firma will Autoren 1,5 Milliarden zahlen
mit Video3:01