ChatGPT: Strengere Auflagen der EU-Kommission - was jetzt gilt

Mit ChatGPT stellt die EU-Kommission erstmals ein KI-Sprachmodell unter verschärfte Beobachtung: Der KI-Chatbot des US-Unternehmens OpenAI wird als "sehr große Suchmaschine" eingestuft und unterliegt so künftig den "strengsten Vorschriften des Gesetzes über digitale Dienste" (DSA). ChatGPT werde künftig "strengeren Kontroll- und Rechenschaftspflichten unterliegen, die den Auswirkungen auf unsere Bürger und unsere Gesellschaft angemessen sind", erklärte EU-Digitalkommisarin Henna Virkkunen.

Brüssel stufte auch die Plattformen Reddit und Roblox als "sehr große Online-Plattformen" ein. Reddit bietet Diskussionsforen in themenbezogenen Communities, Roblox ist auf die Entwicklung und das gemeinsame Spielen von Videospielen spezialisiert.

Mit der Einstufung erhält die Behörde "Untersuchungsbefugnisse, um die Funktionsweisen dieser Dienste und gegebenenfalls damit verbundener Systeme zu bewerten", wie sie ausführte. Die Überwachung wird demnach mit den zuständigen nationalen Behörden in den Mitgliedstaaten koordiniert. Im Fall von ChatGPT und Reddit ist das die irische, bei Roblox die niederländische Medienaufsicht.

Voraussetzung für die Einstufung ist, dass die Dienste mehr als 45 Millionen monatliche Nutzer haben. Tatsächlich überschreitet ChatGPT diese Schwelle bereits seit Längerem deutlich. Ende März gab OpenAI die Nutzerzahl in der EU mit mehr als 159 Millionen an - mehr als einem Drittel der Bevölkerung. Roblox kommt auf 46,6 Millionen und Reddit auf 57 Millionen Nutzerinnen und Nutzer.

Die Unternehmen haben nun bis Ende November Zeit, um den verschärften Auflagen gerecht zu werden. Sie müssen unter anderem stärker gegen die Verbreitung illegaler Inhalte vorgehen, Minderjährige besser schützen und potenzielle negative Auswirkungen ihrer Dienste auf "Grundrechte, Wahlprozesse und die öffentliche Sicherheit" vermeiden.

Bei schweren und wiederholten Verstößen drohen ihnen hohe Geldstrafen von bis zu sechs Prozent ihres weltweiten Jahresumsatzes.

Ein Unternehmenssprecher erklärte, OpenAI treffe "derzeit Vorbereitungen, um die zusätzlichen Compliance-Anforderungen zu erfüllen". Das Unternehmen sieht in der Einstufung zudem auch eine Anerkennung seiner Leistung, denn nur zwei weitere "sehr große" Suchmaschinen sind bislang von der EU-Kommission als solche eingestuft worden.

Auch Roblox zeigte sich "stolz, die erste Gaming-Plattform zu sein, die diesen Meilenstein in der EU erreicht hat". "Wir freuen uns darauf, unsere konstruktive Zusammenarbeit mit der Europäischen Kommission fortzusetzen", erklärte ein Sprecher.

Die Liste der sehr großen Online-Plattformen ist seit Inkrafttreten des DSA im Jahr 2024 erheblich erweitert worden. Sie umfasst inzwischen fast 30 Dienste, die meisten davon gehören zu den großen Namen der Tech-Branche wie Google, Microsoft und Meta, außerdem etwa Pornoseiten und die Enzyklopädie Wikipedia.

Gegen Elon Musks soziales Netzwerk X oder die Online-Händler Temu und AliExpress verhängte die EU-Kommission bereits Millionenstrafen, weil sich die Unternehmen nach Ansicht Brüssels trotz Ermahnungen nicht an die Regeln hielten.

Lena-Maria Böswald, Digitalexpertin bei der Berliner Organisation Interface, hält die Aufnahme von ChatGPT in diese Liste für einen potenziell bedeutenden Schritt. "Die Entscheidung schafft einen Präzedenzfall", erklärte sie im Vorfeld der Bekanntmachung, die seit Monaten erwartet worden war. OpenAI unterliege bereits wegen des EU-KI-Gesetzes Verpflichtungen zum Risikomanagement, doch die DSA-Auflagen dürften darüber hinausgehen.

Hinweis