Für den Fall, dass KI außer Kontrolle gerät, prüft Kalifornien einen Notschalter. Der "Kill Switch" ist Teil mehrerer Maßnahmen, die führende KI-Entwickler betreffen könnten.
Cyberangriffe, Datenabflüsse - die Warnungen, dass sich KI verselbstständigt, häufen sich. Wie sich dies verhindern lässt, war unter anderem Thema auf dem "Big Bang KI Festival".
16.09.2026 | 2:54 minIn der Debatte um existenzielle Risiken durch Künstliche Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen.
Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheits-Zwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht. Über einen sogenannten "Kill Switch" für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert - noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.
Professor Rupprecht Podszun spricht über mögliche Kontrollmöglichkeiten von KI, deren Unternehmen und die europäische Einstiegs-Chance im Falle einer gedrosselten Entwicklung.
16.09.2026 | 5:03 minKalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzen führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.
Newsoms zweite und letzte Amtszeit als kalifornischer Gouverneur endet Anfang kommenden Jahres. Der 58-Jährige gilt als ein möglicher Bewerber der Demokraten für die Präsidentenwahl 2028.
Die Debatte um Gefahren Künstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekannt geworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte.
Neben anderen sprach sich auch Anthropic-Chef Dario Amodei dafür aus, das Entwicklungstempo bei hochentwickelter KI zu bremsen und die Aufsicht zu verstärken. OpenAI-Chef Sam Altman unterstützte den Vorschlag.
Die Risiken künstlicher Intelligenz rücken stärker in den Fokus. Nach Hackerangriffen durch KI warnen führende Entwickler vor Gefahren und fordern eine langsamere Entwicklung.
13.09.2026 | 1:58 minInzwischen fordern Dutzende renommierte Experten aus der Branche führende KI-Labore auf, eine unabhängige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher müssten wie führende Manager Zugang zu Systemen haben und mit zuständigen Mitarbeitern kommunizieren können, heißt es in einem offenen Brief.
Zu den Unterzeichnern gehört der Physik-Nobelpreisträger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten Köpfe hinter modernen KI-Systemen gilt. Anthropic gab als ersten Aufsichtspartner die Firma Faculty bekannt - eine Tochter des Beratungsriesen Accenture.
Der Börsengang von Anthropic verzögert sich unterdessen dem "Wall Street Journal" zufolge bis November. Am Markt war zuvor eine Aktienplatzierung bereits im Oktober erwartet worden. Die Entscheidung für einen Termin im November sei bereits vor den jüngsten drastischen Warnungen gefallen, hieß es unter Berufung auf informierte Personen. Ein Gedanke dahinter sei, Investoren Geschäftszahlen für das dritte Quartal vorlegen zu können.
OpenAI-Chef Altman sagte jüngst in einem Interview des Magazins "Fortune", sein Unternehmen werde in diesem Jahr wohl nicht mehr an die Börse gehen. Zur Begründung verwies er auf die aktuelle Situation.
Lassen Sie sich Beiträge von ZDFheute bevorzugt bei Google anzeigen.
→ Hier ZDFheute als bevorzugte Quelle einstellen.