International
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
terminator

Bild: shutterstock

Drohnen mit künstlicher Intelligenz: Die autonomen Killermaschinen

Google hat im Rahmen des «Project Maven» dem US-Verteidigungsministerium künstliche Intelligenz (KI) zur Verfügung gestellt, die in Drohnen zum Einsatz kam. Eine ehemalige Mitarbeiterin warnt nun vor autonomen Killermaschinen.



Hochintelligente Drohnen schiessen getarnt aus der Luft auf Menschen. Dabei entscheiden die Kampfflugzeuge autonom, welche Ziele abgeschossen werden sollen und welche nicht.

Das ist Fiktion – könnte jedoch bald Realität werden. Zumindest wenn man den Aussagen von Laura Nolan, einer ehemaligen Top-Software Ingenieurin von Google, Glauben schenkt.

Doch von Anfang an: In einem Artikel des Guardian warnt Nolan, dass autonom agierende Drohnen versehentlich Kriege und Massenexekutionen lostreten könnten. Die Software Ingenieurin arbeitete für Google am Maven-Programm. Dieses lieferte für das US-Verteidigungsministerium künstliche Intelligenz, die Überwachungsdrohnen dazu befähigen sollte, autonom Objekte aus der Luft zu erkennen und zu klassifizieren.

Die Fähigkeit, militärische Drohnen in autonome, nicht von Menschen gelenkte Waffen umzuwandeln, «ist heutzutage nur ein Softwareproblem, das relativ einfach gelöst werden kann», so Nolan.

Wie bringt man Drohnen menschliches Gespür bei?

Aus Gewissensgründen schmiss Nolan letztes Jahr ihren Job und trat der Kampagne gegen Killerroboter bei, bei der schon 29 Länder und 110 NGOs mitwirken. Und Elon Musk. Die USA, Russland und China sind nicht dabei. Die Schweiz übrigens auch nicht.

Nolan hat bereits vor UN-Diplomaten in Genf und New York über die Gefahr solcher Drohnen referiert. Sie warnt, dass die Wahrscheinlichkeit einer Katastrophe exponentiell steigt, je mehr solcher Killer-Roboter sich gleichzeitig in einem Gebiet befinden. «Rechtswidrige Tötungen und Gräueltaten sind möglich», sagt sie dem Guardian.

Bewaffnete Drohnen stehen bis anhin unter der Kontrolle des Menschen, der sie steuert und im Ernstfall darüber entscheidet, ob Ziele angegriffen werden. Wenn diese menschliche Kontrolle entfällt, so Nolan, könnte es zu schweren Unfällen kommen, sobald sich die Drohnen auf unerwartete Weise verhielten.

Die ehemalige Google-Mitarbeiterin skizziert, wie externe Faktoren, zum Beispiel ein Wetterumschwung, Killerroboter vom Kurs abbringen und so möglicherweise fatale Folgen haben könnten:

«Wie trainieren Sie ein System, das ausschliesslich mit Software betrieben wird, subtiles menschliches Verhalten zu erkennen oder den Unterschied zwischen Jägern und Aufständischen zu erkennen? Wie unterscheidet die Drohne, die alleine unterwegs ist, zwischen dem 18-jährigen Kämpfer und dem 18-Jährigen, der nach Kaninchen jagt?»

Wettrüsten der Supermächte

Die aktuelle US-Militärdoktrin hält fest, dass letztlich immer ein Mensch über einen möglichen Angriff bestimmen muss. Wie lange das jedoch so bleibt, ist fraglich. Wie der Rüstungsexperte Paul Scharre in einem Interview mit der Zeit erklärte, existieren bereits heute simple Waffensysteme, die grosse Objekte wie Radaranlagen, Kriegsschiffe oder U-Boote angreifen könnten.

Zudem arbeiten Länder wie die USA, Grossbritannien, Frankreich, Israel, Russland und China bereits an Tarnkappen-Angriffsdrohnen, die dank künstlicher Intelligenz autonom agieren können. Andere autonome Waffen, die von Militärmächten auf der ganzen Welt entwickelt werden, sind zum Beispiel:

Donald Trump hat indes im Februar ein Dekret erlassen, das sicherstellen soll, dass die USA in Sachen KI führend bleiben. Das US-Verteidigungsministerium bekräftigte nur einen Tag später, dass KI genutzt werden solle, um die Bürger und das Land zu schützen. Auch autonome Waffen könnten Teil dieser Strategie sein.

Die geheime Einkaufsliste des Schweizer Militärs

Google von Vorwürfen befreit

Bis jetzt gibt es keine Hinweise darauf, dass Google direkt an der Entwicklung autonomer Waffensysteme beteiligt ist. Im August diskutierte eine Expertengruppe der Vereinten Nationen über autonome Waffen. Sie hielt fest, dass Google keine KI für den Einsatz in Waffensystemen programmiere.

Den Vertrag für das Maven-Programm mit dem US-Verteidigungsministerium, der von 2017-2019 läuft, hat Google nach heftigen Protesten von tausenden Mitarbeitern nicht erneuert. Die Mutterfirma von Google, Alphabet, hat zudem beim Kauf des KI-Unternehmens DeepMind 2014 versprochen, dessen Technologien keinen Militärs zur Verfügung zu stellen.

Das NGO PAX aus Holland hat zudem kürzlich eine Studie veröffentlicht, die 50 Tech-Firmen aus zwölf Ländern auf ihre Aktivitäten im Bezug auf mögliche Entwicklung von autonomen Waffensystemen untersuchte. Die Studie stellte fest, dass Google eine Vorreiterrolle einnimmt, da sich das Unternehmen verpflichtet hat, keine KI für den Einsatz in Waffen zu entwerfen oder bereitzustellen.

DANKE FÜR DIE ♥

Da du bis hierhin gescrollt hast, gehen wir davon aus, dass dir unser journalistisches Angebot gefällt. Wie du vielleicht weisst, haben wir uns kürzlich entschieden, bei watson keine Login-Pflicht einzuführen. Auch Bezahlschranken wird es bei uns keine geben. Wir möchten möglichst keine Hürden für den Zugang zu watson schaffen, weil wir glauben, es sollten sich in einer Demokratie alle jederzeit und einfach mit Informationen versorgen können. Falls du uns dennoch mit einem kleinen Betrag unterstützen willst, dann tu das doch hier.

Würdest du gerne watson und Journalismus unterstützen?

(Du wirst zu stripe.com umgeleitet um die Zahlung abzuschliessen)

Oder unterstütze uns mit deinem Wunschbetrag per Banküberweisung.

Nicht mehr anzeigen

Darpa Robotics Challenge: 25 Roboter als Katastrophenhelfer, die auch Autofahren können

WIR LEBEN IN DER ZUKUNFT! Ich begegne ein Shopping-Roboter

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

11
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
11Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Thunderbolt 22.09.2019 12:16
    Highlight Highlight Es ist nur die logische Weiterentwicklung.
    Stein und Stock, Speer und Schwert, Gewehr und Kanone, Hiroshima und Nagasaki, Roboter und Drohen…
    Es sterben einfach jedes mal ein bisschen mehr Leute…
    Dafür werden Milliarden um Milliarden locker ausgegeben.
    Wenn es heisst aber, ein paar Millionen (nicht einmal Milliarden) für Sozialzwecke einzusetzen, dann wehren sich alle. Bitte nicht mein Geld berühren.
    Der Mensch ist ein grausames Tier.
  • Thunderbolt 22.09.2019 11:04
    Highlight Highlight Sofort Google verbieten, Google kooperiert mit dem US-Verteidigungsministerium !!!
    Huawei (und deren supergeilen P30 und Mate 30) wurde boykottiert (nur) wegen _Vermutung_ der Kooperation mit der Chinesischen Regierung.
  • mondbewohner 20.09.2019 23:49
    Highlight Highlight «Rechtswidrige Tötungen und Gräueltaten sind möglich», sagt sie dem Guardian.
    Ich glaube, diese Disziplin will der Mensch nicht so schnell an Maschinen auslagern. Das machen wir doch lieber selbst... jedenfalls hatte ich letzthin diesen Eindruck, als ich wieder mal Tagesschau sah 🤷‍♀️😈. Rette sich, wer kann.
  • Don Harrison 20.09.2019 22:47
    Highlight Highlight Die unterstützende Armee der Zukunft. ?

    Passend dazu ein sehenswerter
    Clip. Erschreckend.

    Play Icon

  • dho 20.09.2019 22:40
    Highlight Highlight Haben die USA diese (oder andere) Drohnen eingesetzt, um die veralteten Öl-Anlagen in Saudi Arabien zu zerstören?
  • hopplaschorsch12 20.09.2019 21:46
    Highlight Highlight danke weltmächte... nur immer weiter so!!!!!!!!!
  • sa5 20.09.2019 21:31
    Highlight Highlight Und alle machen mit. Die Daten die wir laufend aktiv und inaktiv in unsere mobilen Geräte eingeben, dienen dazu um Modelle von menschlicher Intelligenz zu abstrahieren. Diese werden auf Autonom handelnden Geräte implementiert.
    Wenn das Ganze einmal richtig funktioniert wird es auch in der ersten Welt angewendet. Der Drohnenkrieg in Afghanistan und Pakistan ist das Versuchsfeld dafür. Wenn irtümmlicher Weise ein Pakistani erschossen wird, wird dies anders als bei einem Amerikaner massenmedial thematisiert.
  • Arthur Philip Dent 20.09.2019 21:28
    Highlight Highlight Wenn wenigstens Drohnen gegen Drohnen kämpfen würden... Robot-Wars extreme, sozusagen... Mit live-Übertragung und ohne Tote... 😅 Aber eben, so viel Fairness ist nicht zu erwarten und darum ist es extrem problematisch...
    • dirirev 20.09.2019 21:48
      Highlight Highlight Eigentlich ein interessanter Gedanke. Das wäre doch eine nicht allzu dumme Idee. Heute gewinnt eh niemand mehr Kriege. Es geht nur um die Profite während des Krieges. So kann das Wettrüsten weitergehen, ohne dass jemand dabei drauf geht, es fördert weiterhin technologische Fortschritte und alle profitieren von den wirtschaftlichen Vorteilen der Kriege. Die Einschaltquoten wären wahrscheinlich immens, was noch mehr Kohle bringt.. Allerdings funktionieren "Kriege" ohne das Leid und die Existenzängste wohl eher nicht. Da fehlt dann schnell die Motivation..
  • HerrCoolS. 20.09.2019 21:16
    Highlight Highlight Google = Cyberdybe Systems?

    🤔

Interview

Das Virus greift nicht umsonst die Atemwege an: «Die Lunge kriegt alles ab»

Das Coronavirus befällt zuerst die Lunge: Ein Pneumologe des Unispitals Zürich erklärt, warum das Organ besonders verletzlich ist – und dass man sich Atemnot auch einbilden kann. Christian Clarenbach (44) behandelt sowohl kranke, wie auch geheilte Corona-Patienten.

Ist die Lunge ein für Krankheiten speziell anfälliges Organ?Christian Clarenbach: Das kann man nicht sagen. Aber es ist der Haupt-Schauplatz für die schweren Verläufe von Covid-19. Zudem ist die Lunge sehr exponiert als Eintrittspforte: Wenn Sie ohne Maske durch die volle Zürcher Bahnhofstrasse gehen, dann kriegt die Lunge alles ab, was da in der Luft ist. Die Leber und die Niere sind besser geschützt.

Lungenkrankheiten gibt es viele. Gibt es etwas, was nur das Coronavirus in der Lunge …

Artikel lesen
Link zum Artikel