Drohnen und KI: Was sich dadurch ändern könnte

Im bayerischen Erding will sich die Bundeswehr neu erfinden und in Sachen Drohnen und Drohnenabwehr möglichst schnell Fähigkeitslücken schließen. Bei der Einweihung des ersten Innovationszentrums der Truppe auf dem Gelände des ehemaligen Fliegerhorsts mahnt Bundesverteidigungsminister Boris Pistorius, dass Deutschland und Europa sich in der Verteidigung unabhängiger machen müssten.

"Wir können nicht automatisch mehr Waffen haben als alle anderen, aber wir könnten sie so ausstatten, dass sie besser und technologisch überlegen sind, dass man es sich drei Mal überlegt, uns zu attackieren," so Pistorius.

Daher soll in Erding jetzt ein Innovations-Turbo eingelegt werden. Junge deutsche Rüstungs-Startups arbeiten Hand in Hand mit der Bundeswehr, der TU München und Großunternehmen wie Rheinmetall oder Airbus Defence and Space. Gemeinsam entwickeln und testen sie hier unbemannte, autonome Waffensysteme zu Land und in der Luft.

• Drohnenabwehr aus München: Ein Startup, auf das die Bundeswehr hofft

Bei allen hier ansässigen Firmen und in fast allen Bereichen spielt Künstliche Intelligenz eine Rolle: bei der Navigation, für möglichst präzise Lagebilder, bei der Koordination von Drohnenschwärmen und bei der Objekterkennung und Zielbekämpfung.

Auch das erst vor zwei Jahren gegründete Münchner Startup Tytan Technologies nutzt Algorithmen, um mit seinen autonomen Abwehrdrohnen gegnerische Drohnen am Himmel aufzuspüren, zu verfolgen und zu zerstören.

Die sogenannten Interceptor-Drohnen von Tytan Technologies sind bereits in der Ukraine im Einsatz. Der Soldat muss die Drohne nur starten und am Ende das von der KI vorgeschlagene Ziel zum Abschuss freigeben.

"Wir versuchen, dem Menschen die Entscheidung zu erleichtern," so Balász Nagy, CEO und Mitbegründer von Tytan Technologies, "doch am Ende muss der Mensch in der Lage sein, die Entscheidung zu überprüfen und selbst zu treffen".

KI-Systeme können riesige Mengen an Aufklärungsdaten aus dem Gefechtsfeld in Millisekunden auswerten und Bedrohungen schneller identifizieren als der Mensch. Zudem ermöglicht KI eine autonome, GPS-unabhängige Navigation, das heißt, die Systeme sind weniger anfällig für sogenanntes "Jamming", also elektronische Störungen der GPS- oder Funkverbindungen.

Schließlich, so argumentieren die Hersteller, könnten autonome oder ferngesteuerte Systeme Soldatinnen und Soldaten im Gefechtsfeld schützen, indem sie die sogenannten 3-D-Missionen ("dull, dirty, dangerous", also "langweilig, schmutzig und gefährlich") übernehmen.

Das globale Wettrüsten um software-getriebene Waffen ist voll im Gange. Menschenrechtsorganisationen wie das Internationale Komitee vom Roten Kreuz warnen vor ethischen und moralischen Risiken. Sollten eines Tages voll-autonome Waffensysteme rein auf Basis von Algorithmen ohne menschliche Kontrolle über Leben und Tod entscheiden, wäre das ein Bruch des humanitären Völkerrechts. Denn autonome Systeme können nicht verlässlich zwischen Zivilisten und Kombattanten unterscheiden.

Schon jetzt seien Soldatinnen und Soldaten überfordert, die in hohem Tempo von Maschinen getroffenen Entscheidungen zu überprüfen, so der KI-Experte Karl Hans Bläsius von der Hochschule Trier:

Da es bisher keine international verbindlichen Regeln für den Einsatz von autonomen, KI-gesteuerten Waffensystemen gibt, stehen Rüstungsstartups, wie die im bayerischen Erding, vor einem Dilemma: Einerseits wollen und sollen sie für Europas Verteidigungsfähigkeit technologische Innovationen vorantreiben.

Andererseits müssen sie das politische Vakuum füllen und selbst die ethischen und rechtlichen Risiken abwägen. Denn am Ende wird immer die Frage im Raum stehen: Wer ist bei einem Fehler haftbar? Der Programmierer, der Kommandeur oder die Künstliche Intelligenz?

Jutta Sonnewald berichtet aus dem ZDF-Studio in München.