KI-Hackerangriff bei OpenAI: Experte warnt vor Kontrollverlust

Ein autonomer Cyberangriff durch ein KI-Modell sorgt für neue Debatten über die Sicherheit Künstlicher Intelligenz. Bei einem internen Test des ChatGPT-Entwicklers OpenAI brach ein System aus einer geschützten Umgebung aus und griff eigenständig und ohne menschliches Zutun Systeme einer anderen KI-Firma an.

Cybersicherheitsexperte Dennis-Kenji Kipker warnt vor unterschätzten Risiken und fehlender Kontrolle. Im Interview mit Moderatorin Nazan Gökdemir im heute journal update sagt Kipker auch, der Vorfall sei nicht überraschend.

Der Hackerangriff des KI-Modells von OpenAI zeige genau das, was Cybersicherheitsforschende seit langem befürchtet hätten: OpenAI habe die Kontrolle über den Ablauf des Sicherheitsprozesses verloren. "Niemand hat den Angriff angeordnet", so Kipker. "Niemand hat den Angriff bemerkt und deswegen hat auch niemand eingegriffen."

Das sei "hochgefährlich für die globale Cybersicherheit", sagt der Experte.

Gleichzeitig relativiert Kipker mögliche Ängste: "Von einem vollständigen, dauerhaften KI-Kontrollverlust sind wir im Allgemeinen aber noch weit entfernt."

Prof. Dr. Dennis-Kenji Kipker ...

Der konkrete Fall sei unter besonderen Testbedingungen entstanden, betont er: "Die Modelle liefen ja in diesem Test bewusst mit gelockerten Sicherheitsgrenzen."

Die Situation sei jedoch eine andere, wenn Cyberkriminelle eine solche KI-Lösung missbrauchten.

Ein zentrales Problem sieht Kipker in der fehlenden gesellschaftlichen Debatte über die Folgen von KI. "Von einer breiten Risikowahrnehmung sind wir noch sehr weit entfernt", sagt er.

Es brauche einen ganzheitlichen Blick, nicht nur auf IT-Sicherheit, sondern auch auf Auswirkungen auf Wirtschaft, Politik und Gesellschaft, betont Kipker. Ein sinnvoller Ansatz könnte die Gründung eines KI-Sicherheitsinstituts sein, wie es beispielsweise der Nationale Sicherheitsrat fordert.

Kipker verweist auf Großbritannien, dessen Technologieministerium ein solches Institut bereits gegründet hat. Allerdings könne es in Deutschland zum Problem werden, die erforderlichen personellen und wirtschaftlichen Mittel kurzfristig aufzubringen und zu koordinieren.

Für das betroffene Unternehmen OpenAI sieht Kipker trotz des Vorfalls keinen Imageschaden.

Der Grund: "OpenAI [hat] damit gezeigt, dass sein Produkt so gut funktioniert, dass es eben auch die eigenen Sicherheitsvorkehrungen [...] überwunden hat." Damit habe nicht einmal die Entwicklerfirma selbst gerechnet.

Unser Nachrichtenangebot - jetzt als bevorzugte Quelle bei Google