KI-Risiken: Experte Kipker warnt vor Ausfällen kritischer Systeme

Der frühere Anthropic-Mitarbeiter und KI-Forscher Jacob Coxon hat mit drastischen Warnungen für Aufsehen gesorgt. Auch die Chefs von Anthropic und OpenAI, Dario Amodei und Sam Altman, äußerten sich besorgt über das Entwicklungstempo der künstlichen Intelligenz. So hatte Amodei am Samstag gewarnt, dass eine Herde KI-Agenten in sechs bis zwölf Monaten dazu in der Lage sein könnte, das Internet zu übernehmen.

Cybersicherheitsexperte Dennis-Kenji Kipker betonte im ZDF-Morgenmagazin, dass er konkrete Zeitangaben kritisch sehe, da sie aus seiner Sicht "empirisch nicht belegbar" seien. Die Gefahr sei aber durchaus real:

Der Professor am Cyber Intelligence Institute (CII) verglich die Entwicklung mit einem Kartenhaus: "Wir bauen immer höher, immer schneller das KI-Kartenhaus. Und je mehr Bestandteile wir in Systeme einschieben, umso größer ist auch das Risiko." Betroffen seien etwa die Energieversorgung, kritische Infrastrukturen, Logistik, Lieferketten, die Finanzmarktinfrastruktur bis hin zu militärischen Waffensystemen.

Auf die Frage, was ein "Super-GAU" (GAU = "größter anzunehmender Unfall") konkret bedeuten würde, nannte Kipker zwei Szenarien: Zum einen könnten KI-gestützte Systeme in kritischen Infrastrukturen ausfallen, was direkte Folgen für die Bevölkerung hätte.

Zum anderen beobachte man verstärkt, dass Cyberkriminelle und Cyberterroristen die Fähigkeiten künstlicher Intelligenz missbräuchlich nutzten, etwa um Computersysteme von kritischer Infrastruktur, Staat und Verwaltung anzugreifen.

Ein Problem sieht Kipker auch in der geopolitischen Dimension der Entwicklung: "Das globale KI-Wettrennen ist definitiv gestartet." Während es früher vor allem um Marktkapitalisierung und das Einsammeln von Kapital für die KI-Forschung gegangen sei, rücke nun zunehmend die Sicherheit in den Fokus.

Ein weltweites Entwicklungsmoratorium einzelner Unternehmen hält er dennoch für nicht ausreichend:

Den Vorstoß der Unternehmen für gemeinsame Sicherheitsstandards bewertet Kipker trotzdem als Schritt in die richtige Richtung, warnte aber vor zu geringer Reichweite: "Es ist ein Schritt in die richtige Richtung, aber allein den Unternehmen das zu belassen, ist definitiv nicht ausreichend." Er sieht etwa staatliche Beteiligungen an KI-Unternehmen sowie transparentere Meldewege im Vorfallmanagement als einen Weg, um die Technik besser zu kontrollieren.

Bei der Frage, was Deutschland und Europa tun könnten, verwies Kipker auf eine Entwicklung, die lange unterschätzt worden sei:

Tatsächlich habe die EU mit dem "KI Act" aber bereits seit mehreren Jahren ein verbindliches Regelwerk vorzuweisen, das etwa bestimmte Hochrisiko-KI-Systeme verbietet - zu einem Zeitpunkt, als andere große KI-Nationen wie die USA oder China noch keine vergleichbaren rechtlichen Leitplanken hatten.

Für Kipker macht das die EU trotz anfänglicher Kritik zu einer Vorreiterin in der Frage, wie sich der rasante technologische Fortschritt rechtlich einhegen lässt.

Hinweis