KI und Deepfakes: "Jede Frau muss heutzutage Angst haben"

Das EU-Parlament will vor allem Frauen und Kinder besser vor digitaler Gewalt schützen und härter gegen sogenannte Deepfakes und KI-generierte sexualisierte Bilder im Internet vorgehen.

Konkret geht es um ein Verbot von KI-Anwendungen, mit denen Nutzer sexualisierte Videos und Bilder von Menschen ohne deren Einwilligung erstellen können.

• Einigung: EU will KI-Tools für Deepfake-Pornos verbieten

Bereits 2024 hatte Brüssel ein Gesetz verabschiedet, das vorsieht, dass das Erstellen und Verbreiten von Deepfake-Pornos in den Mitgliedstaaten unter Strafe gestellt werden soll. Es nimmt vor allem die Täter in den Blick. Die geplante Anpassung stellt nun auch verstärkt die Unternehmen hinter den KI-Tools in den Fokus.

Die Reform muss unter anderem noch durch den Ministerrat der EU - das gilt aber als Formsache. Bei ZDFheute live spricht Josephine Ballon von der Organisation für Menschenrechte im Netz, "HateAid", über die Hintergründe.

Sehen Sie das Interview oben im Video und lesen Sie es hier in Auszügen. Das sagt Josephine Ballon zur Frage, ...

Sexualisierte Deepfakes ohne Zustimmung oder Wissen der Opfer zu erstellen, sei inzwischen so einfach geworden, dass praktisch niemand davor sicher sei.

"Weil diese Angebote frei verfügbar und kostenlos in den App-Stores rumliegen, ist es einfach so, dass jede Frau heutzutage Angst davor haben muss, dass ihr das gleiche passiert - selbst im privaten Umfeld", so Ballon.

• Wie die Bundesregierung gegen digitale Gewalt vorgehen will

"HateAid" bewertet den EU-Vorstoß positiv. Werkzeuge, mit denen sexualisierte Deepfakes erstellt werden können, würden nur deshalb existieren, weil es offenbar eine große Nachfrage danach im Netz gebe, sagt Ballon - und "weil es leider ein sehr lukratives Geschäftsmodell" sei. Diese Tools ins Visier zu nehmen, sei ein "ganz wichtiger Baustein" im Kampf gegen Gewalt im Netz.

Trotzdem sieht Ballon weiteren Handlungsbedarf auf EU-Ebene. Ihrer Meinung nach braucht es beides: die Verfolgung der Täter und ein Verbot der Anwendungen.

Ansonsten sei es "kein Wunder", wenn es kein Unrechtsbewusstsein in der Bevölkerung dafür gebe.

Es brauche vor allem möglichst übergreifende Gesetze. Einzelne Regelungen auf Bundesebene seien gegen Internetkriminalität mit Blick auf digitale Gewalt nicht wirksam genug.

• Was ist digitale Gewalt und was kann man dagegen tun?
• Was Opfer KI-manipulierter pornografischer Bilder tun können

Ballon sieht zwar "Umsetzungsdefizite" beim geplanten EU-Gesetz, weil die relevanten Plattformen oft im außereuropäischen Ausland sitzen und "gar nicht greifbar sind."

Trotzdem sei es wichtig und möglich, mit Gesetzen Druck auf große Konzerne wie etwa Google und Apple auszuüben, damit sie Deepfake-Angebote aus ihren App-Stores entfernen, findet die "HateAid"-Geschäftsführerin.

Gleichzeitig sei auch entscheidend, welche Darstellungsformen in das Gesetz aufgenommen würden. Nicht-einvernehmliche KI-generierte Bikini-Bilder, zum Beispiel, könnten auch nach den neuen Regelungen noch erlaubt bleiben. Ballon spricht sich dagegen aus und argumentiert, auch das sei eine halbnackte Darstellung. Zuletzt waren solche Bilder massenhaft über die KI-Anwendung Grok von US-Milliardär Elon Musk erstellt worden.

Aber kann der Gesetzgeber im Wettrennen mit KI-Anbietern, die Tools rasend schnell weiterentwickeln, überhaupt mithalten? "Es kann nicht die Lösung sein zu kapitulieren", sagt Ballon. Organisationen wie HateAid würden seit Jahren vor den Gefahren warnen. Sie appelliert an die Politik, früher auf solche Warnungen zu reagieren und "vor die Lage zu kommen."

Das Interview führte Philip Wortmann bei ZDFheute live, zusammengefasst haben es Janine Arendt und Malena Menke.