Elon Musks Chatbot Grok schränkt sexualisierte KI-Bilder ein

Den reichsten Menschen der Welt in die Knie zu zwingen, ist nicht leicht. Und so täte Großbritanniens Premierminister gut daran, diesen Sieg gegen Elon Musk innenpolitisch möglichst auszuschlachten: "Ich habe ein Update für Sie", verkündete Keir Starmer gestern bei der wöchentlichen Fragestunde im Parlament. "Ich wurde heute Morgen darüber informiert, dass sich X bewegt und sich nun vollständig an die Gesetze Großbritanniens halten wird."

Später wurde klar, was das konkret heißt: Musks Chatbot Grok, den der Tech-Milliardär in seine Social-Media-Plattform X integriert hatte, wird es Nutzern ab sofort nicht mehr ermöglichen, sexualisierte KI-Bilder von realen Personen zu erstellen. In Regionen wie Großbritannien, wo das illegal ist, wird das Erzeugen solcher Fake-Bilder auch durch Geoblocking verhindert. Musks Firma xAI beugt sich somit der heftigen internationalen Kritik und auch dem Druck aus London.

• Wie auch das deutsche Justizministerium gegen KI-Fakes vorgehen will

Bislang erlaubte Grok den Nutzern der Plattform X, vor allem Frauen auf Fotos mit einem kurzen Befehl und ein paar Klicks "virtuell auszuziehen" und sie in Bikini, Unterwäsche oder aufreizenden, gar pornografischen, Posen zu zeigen und die Bilder automatisch auf X zu veröffentlichen. Über den Jahreswechsel machten Nutzer davon massenhaft Gebrauch - und zwar meist ohne die Zustimmung der Betroffenen. Schlimmer noch: Auch anzügliche Bilder von Kindern wurden auf diese Weise erstellt.

"Wir wissen mittlerweile, was Nutzer mit solchen Tools machen. Man kann sich also nicht mit Naivität herausreden", kritisiert Dan Sexton von der Organisation Internet Watch Foundation, die die Verbreitung von Online-Material mit sexuellem Missbrauch von Kindern verhindern will.

Musk ließ seinen Chatbot wissentlich Grenzen überschreiten und sorgte damit für einen internationalen Skandal. Am Wochenende blockten erst Indonesien und Malaysia den Zugang zu Grok. Auch die britische Medienaufsicht leitete eine Untersuchung ein, London drohte ebenfalls mit Sperrung des Programms. Musk warf der Regierung daraufhin faschistisches Vorgehen und die Beschneidung der Meinungsfreiheit vor.

Elon Musk sei ein Verfechter maximaler Redefreiheit, sagt der britische Technologie-Experte Chris Stokel-Walker. "Er ist der Meinung, dass Menschen tatsächlich dazu berechtigt sein und in die Lage versetzt werden sollten, zu beleidigen, wenn sie das wollten." Er denke, Gesetze würden Menschen zu sehr einschränken.

Und doch zog Musks Firma xAI nun technische Schranken für anzügliche KI-Bilder bei ihrem Chatbot ein. In 10 Downing Street dürfte man erleichtert sein: Keir Starmer wollte Zähne zeigen - mit einem Verbot von Grok in Großbritannien hätte sich der Premier aber auf politisches Glatteis begeben, meint Stokel-Walker.

Auch für Starmer habe die Gefahr bestanden, "dass jede Maßnahme gegen Musk die Beziehung zu Trump beschädigt".

Diese politische Kuh scheint jetzt vom Eis. Doch ein großer Schaden bleibt - für tausende Betroffene, deren Fotos mit Hilfe von Grok bereits manipuliert und sexualisiert wurden. Diese Bilder sind und bleiben wohl im Internet.

Britta Jäger berichtet aus dem ZDF-Studio in London.