KI-Unternehmen OpenAI:"Gefährden unsere Kinder" - Florida verklagt ChatGPT-Firma
Der Chatbot sei eine Gefahr für die öffentliche Sicherheit und insbesondere für Kinder und Jugendliche: Die Staatsanwaltschaft in Florida verklagt den ChatGPT-Entwickler OpenAI.
Der US-Bundesstaat Florida geht juristisch gegen OpenAI vor. In der Klageschrift heißt es, die Software ChatGPT sei eine Bedrohung für die öffentliche Sicherheit, da sie zu Gewalt ermutige.
02.06.2026 | 0:27 minDer US-Bundesstaat Florida hat das KI-Unternehmen OpenAI und dessen Geschäftsführer Sam Altman verklagt. Generalstaatsanwalt James Uthmeier wirft dem Unternehmen vor, mit seinem Chatbot ChatGPT die Nutzer zu gefährden. Insbesondere für Teenager sei der Chatbot problematisch. Uthmeier kritisierte:
Wir gefährden unsere Kinder und täuschen Eltern, indem wir ihnen vorgaukeln, die Anwendung sei sicher - was sie eindeutig nicht ist.
James Uthmeier, Generalstaatsanwalt Florida
Künstliche Intelligenz erhält immer mehr Einzug in unseren Alltag - besonders die junge Generation greift häufig darauf zurück. Welche Folgen hat das für unser Zusammenleben?
07.05.2026 | 11:36 minKritik an ChatGPT: "Kinder einer großen Gefahr ausgesetzt"
Der Chatbot verursache Abhängigkeit und kognitive Schäden, fügte Uthmeier hinzu. "Wir wissen, dass ChatGPT süchtig machen kann. Die Anwendung imitiert Empathie und menschliche Eigenschaften, um Nutzer dazu zu bringen, ihr immer mehr Informationen zu geben." Auch sammle ChatGPT Daten von Minderjährigen, ohne dass es eine angemessene Aufsicht durch Eltern gebe.
Der Staatsanwalt kritisierte das Fehlen einer Altersverifizierung. "Obwohl die Nutzung von ChatGPT durch Minderjährige, darunter auch Kinder im vorpubertären Alter, öffentlich bekannt ist, haben die Beklagten keine Maßnahmen ergriffen, um deren Nutzung von ChatGPT zu verhindern." Für Kinder unter 13 ist die Nutzung verboten, für Jugendliche die Zustimmung der Eltern erforderlich. Eine formelle Altersverifikation ist aber nicht erforderlich.
Am Veldenz-Gymnasium in Lauterecken gehört KI fest zum Unterricht der achten Klassen. In einer verpflichtenden KI-AG lernen die Jugendlichen, Chancen und Risiken einzuordnen.
10.02.2026 | 2:35 minAuch seien wiederholte Warnungen von Experten ignoriert worden. OpenAI habe interne Sicherheitswarnungen unter Verschluss gehalten und Nutzerinnen und Nutzer über die Gefahren des Produkts getäuscht. Dadurch seien auch "Kinder einer großen Gefahr ausgesetzt" worden.
Staatsanwalt: Produkt ermutige zur Gewalt
Der Chatbot sei zudem eine Bedrohung für die öffentliche Sicherheit, heißt es in der Klage. Unter anderem soll ChatGPT eine tödliche Medikamentenkombination empfohlen haben. Auch die tödlichen Schüsse auf einem Universitätsgelände im April 2025 werden genannt - der Schütze soll vor der Tat Ratschläge von dem KI-Chatbot eingeholt haben. Florida hatte seinerzeit schon Ermittlungen dazu aufgenommen. OpenAI beharrt darauf, dass ChatGPT nicht für die Tat verantwortlich sei.
OpenAI-Chef Altman hat sich nach dem Schulmassaker mit acht Toten im kanadischen Tumbler Ridge entschuldigt. Sein Unternehmen hatte Hinweise nicht den Behörden gemeldet.
25.04.2026 | 0:44 minUthmeier indes resümiert: OpenAI habe ein Produkt auf den Markt gebracht, das zur Gewalt ermutige.
Menschen werden verletzt, Eltern getäuscht, und sie müssen dafür bezahlen.
James Uthmeier, Generalstaatsanwalt Florida
Der Staatsanwalt forderte eine Strafe in Höhe von umgerechnet 8.600 Euro pro Verstoß.
OpenAI verwies in einer Reaktion auf Maßnahmen zum Schutz junger Nutzer. Dazu gehörten Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Die Maßnahmen führte OpenAI zum Teil erst nach Todesfällen und öffentlicher Kritik ein.
Wichtiger Hinweis in eigener Sache
Wer bei Google etwas sucht, bekommt neben den Suchergebnissen auch eine Box mit Schlagzeilen angezeigt.
Mit ZDFheute als hinterlegter Quelle bekommen Sie unsere Inhalte häufiger in die Schlagzeilen-Box gespielt - geprüfte Inhalte, direkt in Ihrem Überblick.
→ Hier ZDFheute als bevorzugte Quelle einstellen.
Mehr zum Thema Künstliche Intelligenz
KI-Unternehmen OpenAI:"Gefährden unsere Kinder" - Florida verklagt ChatGPT-Firma
mit Video0:27Schnelles Internet als Standortfaktor:Glasfaser: Was den digitalen Ausbau bremst
von Sven-Hendrik Hahnmit Video7:06Nachrichten | heute journal:"Tech-Bosse werden nicht vergnügt sein"
Video2:20