Grok: Wie das Justizministerium gegen KI-Fakes vorgehen will

Per KI-Anfrage kann man innerhalb weniger Sekunden Bilder so verändern, dass aus normalen Fotos täuschend echte Nackt- oder Bikiniaufnahmen entstehen. Eine entsprechende Funktion der Grok-KI auf der Plattform X hat dazu geführt, dass massenhaft anzügliche Fotos von Frauen erzeugt wurden. Für Betroffene eine enorme Belastung.

Bundesjustizministerin Stefanie Hubig (SPD) hat angekündigt, stärker dagegen vorzugehen. Mit einem "Digitalen Gewaltschutzgesetz" will die Ministerin Betroffene besser vor pornografischen Deepfakes schützen. Es ist nicht der erste Vorstoß in diese Richtung.

Es gebe bereits Gesetze, die auch auf KI-generierte Deepfakes anwendbar seien, so die Justizministerin am Dienstagabend bei einer Diskussionsveranstaltung in Berlin. Mit einer neuen Regelung wolle man nun nachschärfen und schauen: "Wo sind Lücken?"

Dass es ein neues "Digitales Gewaltschutzgesetz" geben soll, war bereits im Koalitionsvertrag vereinbart.

Derzeit werde ein konkreter Regelungsvorschlag ausgearbeitet, heißt es aus dem Justizministerium. Diesen wolle man zeitnah vorlegen.

Dabei soll es für Betroffene leichter werden, selbst gerichtlich gegen Verletzungen ihrer Rechte im Netz vorzugehen, so ein Sprecher des Ministeriums auf Anfrage von ZDFheute. Beispielsweise im Rahmen einer Klage auf Schadenersatz. Auch Accountsperren könnten dabei eine Rolle spielen.

Entscheidend sei, dass sich die Identität von Tätern ermitteln lasse, so der Sprecher. Darüber hinaus sollen digitale Bildmanipulationen wie pornografische Deepfakes künftig auch explizit unter Strafe gestellt werden.

• Messe zeigt Alternativen zu Big Tech: Künstliche Intelligenz, die Ihre Privatsphäre schützt

Viele KI-Fakes fallen aktuell bereits unter Vorschriften im Strafgesetzbuch. Sie können unter Umständen als Beleidigung oder üble Nachrede verfolgt werden. Nach § 33 des Kunsturhebergesetzes ist es zudem strafbar, "Bildnisse ohne Einwilligung der abgebildeten Person zu verbreiten oder öffentlich zur Schau zu stellen".

Die täuschend echt wirkenden Fotos verletzen regelmäßig auch die Persönlichkeitsrechte. Betroffene könnten dementsprechend theoretisch auch vor Zivilgerichten dagegen vorgehen. Doch gerade dabei berichten sie immer wieder über Hürden bei der Durchsetzung ihrer Rechte. Beispielsweise weil sich die Identität von Tätern nicht ermitteln lässt oder Plattformen nur schwerfällig auf Anfragen reagieren.

Diese Problemfelder hatte das Bundesjustizministerium bereits in einem Diskussionsentwurf für ein Gesetz gegen Digitale Gewalt im Dezember 2024 festgehalten. Mit Ende der Ampel-Koalition wurde das Vorhaben allerdings nicht mehr ins Bundeskabinett eingebracht.

Auch der Bundesrat hat sich bereits mehrfach mit dem Thema Deepfakes auseinandergesetzt. 2024 hatte der Freistaat Bayern einen Gesetzantrag eingebracht, der unter anderem Persönlichkeitsrechtsverletzungen unter Strafe stellen sollte, die "den Anschein einer wirklichkeitsgetreuen Wiedergabe des äußeren Erscheinungsbildes" erwecken.

Der Bundesrat hat den Gesetzentwurf dem Bundestag zugeleitet, der noch nicht darüber beraten hat.

Jan Henrich berichtet als Korrespondent aus dem ZDF-Hauptstadtstudio in Berlin.