Digitale Gewalt: EU will KI für Missbrauch-Deepfakes verbieten

KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes sollen in der EU künftig verboten werden. Darauf haben sich Vertreter der Mitgliedstaaten und des Europäischen Parlaments im Rahmen einer Anpassung des europäischen KI-Gesetzes geeinigt, wie die zyprische EU-Ratspräsidentschaft mitteilte.

Gleichzeitig sollen andere Vorgaben gelockert und vereinfacht werden, um das wirtschaftliche Potenzial Künstlicher Intelligenz (KI) in Europa stärker auszuschöpfen.

Was sind Deepfakes?

Bevor die Änderungen in Kraft treten können, müssen sie noch vom Plenum des Europäischen Parlaments sowie vom Rat der Mitgliedstaaten bestätigt werden. Dieser Schritt gilt in der Regel jedoch als Formsache. Sollte die Reform endgültig verabschiedet werden, würde das Verbot ab dem 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden.

• KI-generiertes Bild: Meloni wehrt sich gegen Deepfakes

Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bereits seit Mai 2024 gilt eine Richtlinie, nach der manipulierte Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen strafbar sein sollen. Deutschland hat die Vorgaben bislang allerdings noch nicht in nationales Recht umgesetzt. Bundesjustizministerin Stefanie Hubig (SPD) kündigte entsprechende schärfere Strafrechtsregeln und mehr Rechte für Betroffene an.

• Das steht in Hubigs Gesetz gegen digitale Gewalt

Das geplante Verbot in der EU-KI-Verordnung würde den Fokus verschieben: Weg von der Bestrafung einzelner Taten hin zum Verbot bestimmter KI-Anwendungen. Zugleich betonen Verhandlungsteilnehmer, dass Bildbearbeitung dadurch nicht übermäßig eingeschränkt werden solle. Das Gesetz soll deshalb klar definieren, welche Inhalte als sexualisiert gelten.

Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz vorgeschlagen, um die Wirtschaft und insbesondere die KI-Branche, zu entlasten. Unternehmen hatten zuletzt aber immer wieder mehr Zeit gefordert, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. Diese Zeit sollen die Anbieter von Chatbots und anderen Diensten laut der Einigung bekommen.

An Teile des Gesetzes, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen - generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen.

Aus der Industrie kamen zuletzt Forderungen nach weniger Doppelregulierung, um Europas Wettbewerbsfähigkeit nicht zu gefährden. Auch Bundeskanzler Friedrich Merz (CDU) sprach sich für einfachere Regeln aus. Geplante Ausnahmen sollen verhindern, dass Unternehmen beim KI-Einsatz mehrere EU-Vorgaben gleichzeitig erfüllen müssen.

Damit etwa die Maschinenbaubranche sich beim Einsatz von KI nicht an mehrere EU-Regularien gleichzeitig halten muss, sollen Ausnahmen geschaffen werden.

Für den CDU-Europaabgeordneten Axel Voss gehen diese Änderungen nicht weit genug: "Wir brauchen einen Rahmen, der Innovation ermöglicht und Schutz garantiert - nicht einen Flickenteppich aus sektoriellen KI-Sonderregeln", kommentierte der Parlamentarier.

Unser Nachrichtenangebot - jetzt als bevorzugte Quelle bei Google