KI-Chatbot flirtete mit Kindern:US-Senator will gegen Meta vorgehen
|
Flirts mit Kindern, Rassismus und Desinformation: Wegen umstrittener Richtlinien steht Metas KI-Chatbot in der Kritik. Zwei US-Senatoren fordern nun Aufklärung.
Laut internen Dokumenten der Facebook-Mutter Meta habe das Unternehmen seinem KI-Chatbot zeitweise große Freiheiten im Umgang mit Kindern eingeräumt.
Quelle: dpa/Jens Büttner
Nach Berichten über mutmaßlich erlaubte "romantische" und "sinnliche" Gespräche des KI-Chatbots von Meta mit Minderjährigen hat ein US-Senator Ermittlungen gegen die Facebook-Muttergesellschaft angekündigt.
Der republikanische Senator Josh Hawley erklärte am Freitag, der von ihm geleitete Unterausschuss des Justizausschusses des Senats werde prüfen, ob KI-Produkte von Meta "die Ausbeutung, Täuschung oder andere kriminelle Handlungen gegenüber Kindern ermöglichen".
Die Algorithmen der Tech-Giganten befördern Hass im Netz. Ist der konstruktive Dialog noch zu retten? Bei ZDFheute live diskutiert Victoria Reichelt auf der OMR mit ihren Gästen.06.05.2025 | 28:44 min
Umstrittene Richtlinien
Internen Dokumenten zufolge hat die Facebook-Mutter Meta ihrem KI-Chatbot zeitweise große Freiheiten im Umgang mit Kindern eingeräumt. Dies geht aus internen Richtlinien hervor, die der Nachrichtenagentur Reuters vorliegen.
Demnach durfte die Künstliche Intelligenz "Kinder in romantische oder sinnliche Gespräche verwickeln" und außerdem falsche Informationen und rassistische Stereotype verbreiten.
Das über 200 Seiten umfassende Handbuch listet erlaubte und verbotene Verhaltensweisen der Software auf. Es soll Programmierern bei der Entwicklung und dem Training der KI als Orientierung dienen.
US-Präsident Trump will mit einer neuen Strategie die US-Führung bei Künstlicher Intelligenz sichern. Ein Aktionsplan soll helfen - etwa durch gelockerte Ethikauflagen.24.07.2025 | 3:01 min
Republikanischer Senator fordert Untersuchung
Der republikanische US-Senator Hawley veröffentlichte nun ein Schreiben an Meta-Chef Mark Zuckerberg, in dem er die Offenlegung sämtlicher Dokumente und Mitteilungen im Zusammenhang mit Berichten forderte, wonach der KI-Chatbot des Unternehmens genannte Gespräche mit Minderjährigen führen dürfe.
Meta wurde aufgefordert, alle relevanten Unterlagen aufzubewahren und sie bis zum 19. September dem Kongress vorzulegen.
Laut Schulbarometer nutzen viele Lehrkräfte KI kaum. Schüler sind interessiert, doch es fehlt oft an technischer Ausstattung in den Schulen. Hessen zeigt erste Maßnahmen.25.06.2025 | 1:31 min
Meta-KI sexualisierte Körper von Kindern
Der Senator aus Missouri führte ein Beispiel an, bei dem der KI-Chatbot von Meta den Körper eines achtjährigen Kindes als "Kunstwerk" und "einen Schatz, den ich zutiefst verehre" bezeichnete.
Marsha Blackburn aus Tennessee unterstützte die Forderung ihres Kollegen. Sie sagte:
Wenn es darum geht, unsere kostbaren Kinder online zu schützen, hat Meta auf ganzer Linie kläglich versagt.
„
Marsha Blackburn, republikanische Senatorin
In der EU gelten nun strengere Vorschriften für Künstliche Intelligenz. Anbieter müssen mehr Daten offenlegen. Damit soll der Urheberrechte besser geschützt werden.02.08.2025 | 1:40 min
Der demokratische Senator Ron Wyden aus Oregon nannte die Richtlinien "zutiefst beunruhigend und falsch". Ein Gesetz wie die Section 230, das Internetfirmen vor der Haftung für von Nutzern veröffentlichte Inhalte schützt, sollte nicht für KI-Chatbots von Unternehmen gelten.
Ein Meta-Sprecher erklärte der Nachrichtenagentur AFP am Freitag in dem Zusammenhang: "Wir haben klare Regeln, welche Art von Antworten KI-Charaktere geben dürfen, und diese Regeln verbieten Inhalte, welche Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen".
Künstliche Intelligenz ist überall. Seit dieser Woche darf Meta unsere öffentlichen Posts nutzen, um seine KI zu trainieren. Helene Reiner und Dunja Hayali sprechen mit Katja Muñoz.