Künstliche Intelligenz: Was die EU gegen Risiken tun kann

Die Angst vor Risiken durch die rasante Entwicklung Künstlicher Intelligenz (KI) wächst. Die EU hat dabei eigentlich einen Vorteil: Sie hat schon seit 2024 ein Gesetz, das KI-Modelle sicherer machen soll. Den Entwicklern drohen sonst hohe Strafen oder sogar ein Verbot. Kritiker warnen jedoch vor Schwachstellen in den Regeln.

Das europäische KI-Gesetz schreibt den Unternehmen vor, ihre Modelle ständig auf mögliche Gefahren zu überprüfen. Dafür gibt es in den Konzernen ohnehin eigene Abteilungen. Sie müssen Berichte abliefern, in denen sie das Risiko abschätzen und Hackerangriffe sowie Sicherheitslücken beschreiben.

Die EU-Behörde für Cybersicherheit (Enisa) testet die wichtigsten Modelle selbst. Bis die Behörde einen Zugang hatte, dauerte es allerdings Monate, weil die USA kurzzeitig einen Exportstopp verhängten. Ein EU-Beamter räumte gegenüber AFP ein, dass sich dieses Problem in Zukunft wiederholen könnte.

Theoretisch ja. Die Kommission kann bestimmte Funktionen oder ganze Modelle vom europäischen Markt verbannen, wenn zum Beispiel die Gefahr von Hackerangriffen zu groß ist. Solche Schritte stehen in Brüssel aktuell aber nicht zur Debatte.

Die EU-Kommission kann außerdem Bußgelder verhängen, wenn die Konzerne Risiken ignorieren oder zu wenige Informationen weitergeben. Diese Strafen dürfen höchstens drei Prozent des weltweiten Jahresumsatzes eines Konzerns betragen. Bei OpenAI beispielsweise entspräche dies gemessen an den Zahlen für 2025 etwas weniger als 400 Millionen Euro.

Das ist unklar. Das KI-Büro der Kommission hat schon mehr als 30 Anfragen für zusätzliche Informationen an die Unternehmen geschickt, ein erster Schritt für mögliche Ermittlungen wegen Verstößen. Das gesamte Verfahren dauert in der Regel aber Monate oder sogar Jahre.

Kritiker befürchten zudem, dass die EU ihre eigenen Regeln auf Druck der USA weniger streng durchsetzt. Ein EU-Beamter sagte AFP, die Durchsetzung werde durch die Abhängigkeit der EU von den USA beeinflusst. Der KI-Forscher Harshvardhan Pandit geht zudem davon aus, dass die zuständige Abteilung im KI-Büro der Kommission "viel mehr Leute und technisches Fachwissen" braucht.

Pandit warnt, dass bei Hackerangriffen durch KI-Agenten nicht immer klar ist, wer haftet: der Entwickler oder derjenige, der die KI einsetzt. "Wenn das nicht jetzt behoben wird und es mehr solcher Vorfälle gibt, wird es nur schlimmer", sagt er.

Im Europaparlament werden deshalb fraktionsübergreifend Rufe nach weiteren Regeln laut. Die Abgeordneten Brando Benifei (Sozialdemokraten), Axel Voss (CDU), Kim Van Sparrentak (Grüne) und Michael McNamara (Liberale) fordern in einer Anfrage an die Kommission ein KI-Haftungsgesetz, "damit Menschen und europäische Firmen nicht mit leeren Händen dastehen".

Neben den Regeln für allgemeine Modelle legt das EU-Gesetz auch fest, wo KI überhaupt zum Einsatz kommen darf. Systeme, die Menschen nach Kriterien wie Hautfarbe, politischen oder religiösen Ansichten oder sexueller Orientierung in Gruppen einteilen, sind verboten. Außerdem sind ab Dezember Anwendungen verboten, mit denen Nutzer sexualisierte Deepfakes erstellen können.

In den kommenden Jahren greifen weitere Einschränkungen für KI-Systeme, die zwar erlaubt, aber mit hohem Risiko verbunden sind. Darunter fällt etwa der Einsatz bei der Polizei oder in Personalabteilungen.

Dazu laufen in Brüssel aktuell Verhandlungen. KI-Anbieter fallen unter die europäische Datenschutzgrundverordnung (DSGVO) und müssen deshalb eigentlich ein Einverständnis einholen, bevor sie personenbezogene Daten nutzen, um ihre Modelle zu trainieren.

Europäische Entwickler klagen deshalb über Nachteile im Wettbewerb mit Unternehmen in den USA oder China, wo die Datenschutzregeln weniger streng sind. Die Kommission hat deshalb Änderungen an der DSGVO vorgeschlagen. In den Verhandlungen ist noch offen, wann KI-Entwickler aus juristischer Sicht ein berechtigtes Interesse an der Datenverarbeitung haben.

Hinweis