Biowaffen-Gefahr durch KI? Wie Experten die Risiken einschätzen

Die rasante Entwicklung Künstlicher Intelligenz wirft zunehmend Sicherheitsfragen auf. Sorgen wachsen, dass KI-Modelle auch für die Entwicklung biologischer Waffen missbraucht werden könnten. Gleichzeitig warnen Experten vor einem möglichen Kontrollverlust und fordern strengere Regulierung.

Wie groß ist die Gefahr tatsächlich? Können Anbieter ihre Systeme wirksam vor Missbrauch schützen? Und wo liegen die Grenzen kontrollierbarer KI? Darüber spricht Alica Jung bei ZDFheute live mit Harald König vom Karlsruher Institut für Technologie und Benjamin Balde von der Non-Profit-Organisation ControlAI.

Sehen Sie oben die ganze Sendung oder lesen Sie hier Auszüge.

Harald König, der für den Bundestag zu den Risiken von Biotechnologie und KI gearbeitet hat, sieht vor allem drei mögliche Gefahrenszenarien. Eines davon: KI könnte Menschen ohne größere Vorkenntnisse den Zugang zu relevantem, möglicherweise gefährlichem Wissen erleichtern:

Menschen könnten sich so schneller Wissen über Krankheitserreger oder Giftstoffe aneignen, erklärt der Experte.

Dr. Harald König ...

Das zweite Szenario betreffe Personen, die bereits Fachwissen und Laborerfahrung besitzen - oder staatliche Akteure. Sie könnten KI nutzen, um bestehende Viren oder Toxine gefährlicher zu machen oder sogar neuartige Varianten mit bisher unbekannten Eigenschaften zu entwickeln.

Das dritte Szenario entsteht laut König durch die Verbindung von KI mit automatisierten Laboren. Sogenannte Self-Driving Labs könnten künftig komplette Forschungszyklen weitgehend selbstständig durchführen: vom Design eines biologischen Stoffes über Herstellung und Tests bis hin zur Auswertung und Optimierung.

Für am wahrscheinlichsten hält König derzeit allerdings das zweite Szenario, also den Einsatz von KI durch bereits erfahrene Akteure.

Trotzdem fordert König, frühzeitig Sicherheitsmechanismen aufzubauen. "Aufgrund der rasanten Entwicklung der KI-Systeme sollte man bereits heute vorsorgende Maßnahmen treffen." Diese müssten auf verschiedenen Ebenen ansetzen, weil auch die möglichen Akteure sehr unterschiedliche Fähigkeiten und Möglichkeiten hätten.

Benjamin Balde von der NGO Control AI warnt vor allem vor KI-Systemen, die sich menschlicher Kontrolle entziehen könnten. Entscheidend sei die Grenze zwischen KI als beherrschbarem Werkzeug und einer künstlichen Superintelligenz:

Balde argumentiert, dass schon heutige KI-Systeme teilweise Handlungen ausführten, die von ihren Entwicklern nicht beabsichtigt seien.

Benjamin Balde ...

Bei einer noch wesentlich leistungsfähigeren Superintelligenz wäre dieses Problem aus seiner Sicht nicht mehr beherrschbar: "Kein Staat kann Superintelligenz kontrollieren." Auch die USA oder China könnten ein solches System seiner Einschätzung nach nicht dauerhaft unter Kontrolle halten.

Besonders kritisch sieht er deshalb Systeme, die sich selbst weiterentwickeln oder immer autonomer agieren. Je mehr Verantwortung der Mensch an KI abgebe, desto größer werde die Gefahr eines Kontrollverlusts.

Kritisch bewertet er zudem sogenannte rekursive Selbstverbesserung, bei der KI-Systeme leistungsfähigere KI-Systeme entwickeln und dieser Prozess sich fortsetzt.

Balde wolle sich aber auch nicht als grundsätzlicher Gegner von KI verstanden wissen - im Gegenteil: Anwendungen etwa in der Medizin, Pharmakologie, Materialforschung oder beim autonomen Fahren bewertet er ausdrücklich positiv. Die Grenze zieht er dort, wo KI nicht mehr kontrollierbar ist. "KI gerne, Superintelligenz auf keinen Fall." Seine Forderung sei deshalb: "Erstmal brauchen wir ein Verbot von Superintelligenz."

Hinweis