Fake-Porno-Software: EU-Parlament beschließt Verbot

Das EU-Parlament will Frauen und Kinder besser vor künstlich erzeugten Nacktbildern schützen. Die EU geht damit gegen Porno-Deepfakes und sexualisierte Bilder im Netz vor.

Das Europaparlament stimmte in Brüssel für ein Verbot von KI-Anwendungen, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Das Verbot soll in einigen Monaten greifen, sobald die genauen Änderungen endgültig beschlossen sind.

Es bezieht sich auf Anwendungen, die mit Künstlicher Intelligenz Bilder und Videos so verändern oder erstellen können, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung" zeigen.

Solche Bilder und Videos "schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre", heißt es im Gesetzentwurf zur Begründung. Ein ausdrückliches Verbot sei "dringend geboten", argumentieren die Abgeordneten.

• Morddrohungen: Collien Fernandes sagt Demo-Teilnahme ab
• Fernandes zu Deepfake-Pornos: "Man wird zum Objekt"

Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder sowie die EU-Kommission leiteten Ermittlungen gegen Grok ein, einige sperrten den Chatbot.

Jegliches KI-System, das Material über Kindesmissbrauch erstellt, wird komplett verboten. Betreiber, die wirksame Sicherheitsmaßnahmen gegen den Missbrauch nachweisen können, sollen ausgenommen werden.

• Wie die Regierung gegen digitale Gewalt vorgehen will
• Schutz von Frauen im Netz: Lang stellt Zehn-Punkte-Plan vor

Mit dem weitreichenden Verbot dieser "Nudifier"-Systeme beschloss das Parlament eine ganze Reihe von Gesetzesänderungen zu Künstlicher Intelligenz. Diese wurden von der EU-Kommission angestoßen.

Vor allem soll die 2024 verabschiedete KI-Verordnung durch die Änderungen einfacher und wirksamer werden und der Wettbewerbsfähigkeit der Union dienen, argumentieren die EU-Institutionen. Verbraucherschützer befürchten weniger Schutz von persönlichen Daten. Die KI-Verordnung reguliert Plattformen und Anwendungen.

Das Vorgehen in Brüssel ist das Gegenstück zu einem Gesetzentwurf, den Bundesjustizministerin Stefanie Hubig (SPD) in Kürze vorstellen will: Die EU ist für Regeln und Verbote für die Technologie zuständig, die Bundesregierung kümmert sich um härtere Strafen für die Täter, die pornografische Deepfakes erstellen.

Hubig will Gesetzeslücken schließen, bislang ist das bloße Erstellen pornografischer Aufnahmen hierzulande nicht strafbar. Einem Entwurf zufolge soll das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft bestraft werden.

Hubig hatte die Pläne vor dem Hintergrund des Falls der Schauspielerin Collien Fernandes angekündigt. Fernandes war in der vergangenen Woche mit Vorwürfen der digitalen sexualisierten Gewalt gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit gegangen. Ulmen selbst bestreitet die Anschuldigungen.