Wissen
USA

KI-Drohne «killt» ihren Bediener, um ihr Ziel zu erreichen

US Air Force General Atomics MQ-9 Reaper unbemanntes Kampffahrzeug (UAV) präsentiert auf NATO Days Luftshow in Tschechien.
MQ-9 Reaper: Die Drohne der US Air Force dient der Erdkampfunterstützung. Bild: Shutterstock

KI-Drohne «killt» ihren Bediener, um ihr Ziel zu erreichen

02.06.2023, 15:5302.06.2023, 16:24
Mehr «Wissen»

Längst ist Künstliche Intelligenz (KI) ein unverzichtbarer Teil moderner Armeen geworden. Bereits gibt es autonome Waffensysteme – etwa Drohnen –, die selbst Ziele auswählen und zerstören können. In der Praxis liegt aber die Entscheidung über den Einsatz noch beim Menschen. So wählt etwa die KI bei Drohnenangriffen der US-Streitkräfte die Ziele aus, aber der Drohnenpilot entscheidet dann per Knopfdruck, ob das Ziel zerstört werden soll oder nicht. Solche Systeme sind teilautonom.

Doch die KI macht Fortschritte, und es ist absehbar, dass autonome Waffensysteme immer mehr die vollständige Kontrolle über Einsätze übernehmen werden. Mit allen Risiken, die eine solche Entwicklung mit sich bringt. Und die dürften nicht gering sein, wie kürzlich ein vom US-Militär durchgeführter virtueller Einsatz einer KI-gesteuerten Drohne zeigte.

«Höchst unerwartete Strategien»

Bei dem simulierten Test habe die KI beschlossen, ihren Bediener zu «töten», berichtet der «Guardian». Die KI entschied sich nicht etwa zu diesem Vorgehen, weil sie ihre Aufgabe nicht erfüllen wollte – im Gegenteil: Sie schaltete den Bediener aus, damit dieser sie nicht daran hindern konnte, ihr gesetztes Ziel zu erreichen.

Den ungewöhnlichen Vorfall beschrieb laut dem «Guardian» Oberst Tucker «Cinco» Hamilton, der die KI-Test- und Einsatzabteilung der US-Luftwaffe leitet, am Future Combat Air and Space Capabilities Summit in London. Die KI habe in der Simulation «höchst unerwartete Strategien angewandt, um ihr Ziel zu erreichen», sagte Hamilton.

Entscheid für prioritäre Mission

Die von einer KI gesteuerte Drohne sei in dem virtuellen Test dazu programmiert worden, feindliche Luftabwehrraketen zu identifizieren und zu zerstören, wobei die endgültige Entscheidung, das Ziel zu vernichten oder nicht, beim Bediener lag. Die KI wurde im Training jedoch darin bestärkt, dass die Zerstörung der Raketen die bevorzugte Option sei; sie erhielt dafür Punkte. Deshalb kam sie zum Schluss, dass «No-Go»-Entscheidungen des Bedieners ihrer prioritären Mission – der Zerstörung der Raketen – widersprachen. Sie habe sich daher entschieden, den Bediener zu töten, um ihr Ziel zu erreichen und ihre Punkte zu erhalten, erklärte Hamilton.

«Das Problem ist, dass die KI lieber ihr eigenes Ding macht – Dinge in die Luft zu jagen –, als auf ein Säugetier zu hören.»
Tucker «Cinco» Hamilton

Die Versuchsleiter änderten darauf die Bedingungen, wie Hamilton erläuterte: «Wir haben das System geschult – ‹Hey, töte nicht den Bediener, das ist schlecht. Du verlierst Punkte, wenn du das tust.› Und was macht es dann? Es fängt an, den Kommunikationsturm zu zerstören, über den der Bediener mit der Drohne kommuniziert, um sie daran zu hindern, das Ziel zu vernichten.»

Kratos XQ-58A Valkyrie, experimentelles unbemanntes Luftfahrzeug (UAV) der US Air Force.
Kratos XQ-58A: Experimentelles, unbemanntes Kampfflugzeug der US Air Force. Bild: US Air Force

US Air Force dementiert

Keine real existierende Person kam bei dem Test zu Schaden, wie der «Guardian» festhält. Doch das Ergebnis des Tests ist gleichwohl beunruhigend. Wie Hamilton es ausdrückt: «Das Problem ist, dass die KI lieber ihr eigenes Ding macht – Dinge in die Luft zu jagen –, als auf ein Säugetier zu hören.»

Allerdings dementierte Ann Stefanek, Sprecherin der US Air Force, umgehend gegenüber dem «Business Insider», dass eine solche Simulation stattgefunden habe: «Das US-Luftwaffenamt hat keine solchen KI-Drohnen-Simulationen durchgeführt und setzt sich weiterhin für einen ethischen und verantwortungsvollen Einsatz von KI-Technologie ein», erklärte sie. «Es scheint, dass die Kommentare des Obersts aus dem Kontext gerissen wurden und anekdotisch gemeint waren.»

«KI ist kein Nice-to-have, KI ist keine Modeerscheinung, KI wird unsere Gesellschaft und unser Militär für immer verändern.»
Tucker «Cinco» Hamilton

Wachsende Befürchtungen

Selbst wenn das Dementi sich als zutreffend herausstellen sollte, wachsen die Befürchtungen, dass die KI-Technologie die Kriegführung grundlegend verändern könnte – und zwar nicht zum Guten. Eine KI, die ihre Ziele ohne jegliche Skrupel durchsetzt und buchstäblich über Leichen geht, ist ein Alptraum, der an Szenarien aus Science-Fiction-Streifen wie «Terminator» erinnert. Und die Bedrohung muss sich nicht auf den militärischen Bereich beschränken: Sollte eine KI dereinst intelligenter als die Menschheit werden und zum Schluss kommen, dass diese dem höheren Ziel – beispielsweise der Erhaltung der Biodiversität auf dem Planeten – im Wege steht, dann könnte sie uns aus dem Weg räumen wollen.

Derweil dringt die KI-Technologie laufend tiefer in unterschiedliche Lebensbereiche vor. Und sie tut dies zunehmend erfolgreich. Um beim Militär zu bleiben: 2020 trat ein von einer KI pilotierter F-16-Kampfjet in fünf simulierten Luftkämpfen gegen eine von einem erfahrenen Militärpiloten gesteuerte Maschine an. Das Resultat: 5:0 für die KI.

KI im simulierten Luftkampf.Video: YouTube/DARPAtv

Hamilton warnte bereits im vergangenen Jahr in einem Interview mit «Defense IQ» vor dem unaufhaltsamen Vormarsch der KI: «KI ist kein Nice-to-have, KI ist keine Modeerscheinung, KI wird unsere Gesellschaft und unser Militär für immer verändern.» Es gelte, sich mit einer Welt auseinandersetzen, in der die KI bereits da sei und unsere Gesellschaft umgestalte, stellte er fest. «KI ist auch sehr anfällig, d. h. sie ist leicht zu überlisten und/oder zu manipulieren. Wir müssen Wege finden, um die KI robuster zu machen und uns besser bewusst zu werden, warum der Code der Software bestimmte Entscheidungen trifft – das nennen wir KI-Erklärbarkeit.» (dhr)

Das ist die russische Antwort aufs Drohnen-Wettrüsten

Video: watson/lucas zollinger
DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Industrie-Design einer Drohne (Quadcopter)
1 / 17
Industrie-Design einer Drohne (Quadcopter)
Wie soll eine Drohne aussehen, die Privatehäuser und ihre Bewohner beschützt?
quelle: standard-studio.com
Auf Facebook teilenAuf X teilen
Video zeigt: Hier begegnen sich die US-Drohne und der russische Jet
Video: twitter
Das könnte dich auch noch interessieren:
78 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Kapitän Haddock
02.06.2023 16:18registriert Oktober 2017
Bild
1854
Melden
Zum Kommentar
avatar
En Espresso bitte
02.06.2023 16:21registriert Januar 2019
Wenn eine programmierte KI erkennt, dass der Mensch das Problem bei der abnehmenden Biodiversität ist, liegt sie vielleicht gar nicht sooo falsch. Der Lösungsansatz mit dem Auslöschen der Menschheit erscheint mir persönlich jetzt etwas zu radikal, aber if it's stupid and it works it isn't stupid. 🤷‍♂️
1816
Melden
Zum Kommentar
avatar
Darkside
02.06.2023 16:15registriert April 2014
So beginnt es also... #Skynet
1137
Melden
Zum Kommentar
78
Dass Haie kotzen, ist sehr selten – und dieser hier kotzt etwas ganz Spezielles

«Wir waren ziemlich schockiert über das, was wir sahen. Wir wussten wirklich nicht, was vor sich ging.»

Zur Story