KI handelte eigenmächtig:OpenAI stoppt Veröffentlichung von KI-Modell
Das neue Modell von ChatGPT sollte in Kürze erscheinen. Doch Sicherheitstests des Entwicklers OpenAI zeigten: Die KI belog Nutzer und handelte auf eigene Faust.
CEOs großer KI-Unternehmen wie OpenAI und Anthropic warnen vor dem Kontrollverlust über KI. Auch auf einer Start-Up-Messe in München sind KI-Risiken ein zentrales Thema.
29.09.2026 | 1:49 minDer Entwickler von ChatGPT, OpenAI, hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem "Wall Street Journal".
Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen.
Immer mehr Berufseinsteiger finden keinen Job, da KI ihre Aufgaben übernimmt. Während Unternehmen dadurch Zeit und Geld sparen, bricht für Berufseinsteiger die Basis für den Karrierestart weg.
30.09.2026 | 2:01 minOpenAI setzt Training vorerst aus
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt.
Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training ihrer leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Bei einem internen Training einer leistungsstarken KI des Entwicklers OpenAI gab es erneut Schwierigkeiten. Die KI hatte sich durch eine Sicherheitslücke Zugang zum Internet verschafft.
27.09.2026 | 0:22 minDie Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete.
Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
Führende KI-Unternehmen sprechen sich für eine staatliche Kontrolle aus. Warum die Tech-Branche den US-Präsidenten mit ins Boot holt, dazu ZDF-Korrespondentin Claudia Bates.
29.09.2026 | 1:37 minKI-Modelle führten autonom Cyberangriffe durch
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face.
Die Entwicklung von Künstlicher Intelligenz schreitet schnell voran. Die Sorge um die Risiken und die zunehmenden Zwischenfälle steigt.
29.09.2026 | 2:20 minWie sich danach herausstellte, drang auch KI anderer Entwickler - des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta - bei Tests in Systeme anderer Unternehmen ein.
Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier.
Lassen Sie sich Beiträge von ZDFheute bevorzugt bei Google anzeigen.
→ Hier ZDFheute als bevorzugte Quelle einstellen.
Mehr zu Künstliche Intelligenz
"Nachbesserung nötig":OpenAI pausiert KI-Training nach neuem Zwischenfall
mit Video0:22ChatGPT-Entwickler:OpenAI-KI platziert Nutzer-Bilder auf Online-Plattformen
mit Video1:45OpenAI und Anthropic:KI-Firmenchefs warnen UN-Sicherheitsrat vor Gefahren
mit Video3:06Gefahren durch künstliche Intelligenz:Experte: Kommen einem KI-GAU immer näher
mit Video5:33