Wegen sexualisierter KI-Bilder: EU leitet Verfahren gegen X ein

Die EU-Kommission geht wegen sexualisierter KI-Bilder von Frauen und Kindern gegen den Chatbot Grok von US-Milliardär Elon Musk vor. Die Brüsseler Ermittler prüfen, ob Musks Onlinedienst X streng genug gegen die Verbreitung solcher Bilder durch den Chatbot vorgeht, wie die Kommission am Montag mitteilte. In der Folge kann die Kommission ein hohes Bußgeld verhängen.

EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben.

Die EU werde nicht akzeptieren, dass große Digitalkonzerne an solchen Bildern Geld verdienen.

• Digitalexperte Lobo: Wie Musks KI-Chatbot Grok für Kontroversen sorgt

X-Nutzer hatten mithilfe des Chatbots Anfang des Monats Millionen von KI-Bildern erzeugt und veröffentlicht, auf denen Frauen und Mädchen ohne deren Zustimmung im Bikini, fast nackt oder in sexualisierten Posen zu sehen waren. Nach Schätzungen der britischen Nichtregierungsorganisation CCDH waren darunter 23.000 Bilder von Kindern.

• Machtprobe gegen Musk: X und Grok beugen sich Druck

Die KI-Bilder seien "eine gewaltsame, inakzeptble Form der Erniedrigung", erklärte EU-Digitalkommissarin Henna Virkkunen. Die Kommission werde nun ermitteln, ob sich X mit seinen internen Vorgaben für Grok an die EU-Gesetze halte oder "die Rechte europäischer Bürgerinnen und Bürger - darunter Frauen und Kinder - als Kollateralschaden behandelt hat".

Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.

• Chatbot Grok: Musk-Firma entschuldigt sich

Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf, ob X das Risiko für "geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden" genügend eingeschränkt hat. Die Internetwächter in Brüssel kündigten neben der neuen Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern.

• Wie das Justizministerium gegen KI-Fakes vorgehen will

Bestätigen sich die Vorwürfe, wäre das ein Verstoß gegen das EU-Gesetz über digitale Dienste (Digital Services Act, DSA). Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.

Gegen Musks Online-Plattform laufen auf Grundlage europäischer Digitalgesetze ohnehin bereits mehrere Untersuchungen - etwa wegen der Moderation und des Risikomanagements illegaler Inhalte. Erst Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. 

Washington reagierte damals scharf, sprach von Zensur und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere Europäer. Die heftige Reaktion konnte auch als Drohung in Richtung Brüssel verstanden werden, keine weiteren Maßnahmen gegen die US-Tech-Riesen zu ergreifen.