International
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

Horror-Szenario «Slaughterbots»: So drastisch warnen Forscher vor autonomen Kampfrobotern

Bild: youtube.com/stopautonomousweapons

Schwärme von autonomen Mini-Drohnen gegen Soldaten – wird so der Krieg der Zukunft aussehen? In Genf hat diese Woche ein UN-Gremium über ein Verbot von «tödlichen autonomen Waffensystemen». Aktivisten warnen mit einem schockierenden Science-Fiction-Clip vor tödlichen Kampfrobotern.

Elia Diehl / nordwestschweiz



Tödliche autonome Waffensysteme sind seit einigen Jahren immer wieder ein Thema. Mehrfach haben Experten für künstliche Intelligenz und Forscher wie Astrophysiker Stephen Hawking oder Apple-Co-Gründer Steve Wozniak schon Kritik geäussert (auch die GsoA).

Die Kritiker fordern von den Vereinten Nationen schon länger ein Verbot solcher Kampfroboter. Darüber hat diese Woche an der fünftägigen UN-Abrüstungskonferenz in Genf ein Gremium von Experten und Landesvertretern erstmals auf formeller Ebene beraten (siehe Infobox unten).

Zeitgleich haben die vereinte Kritiker von autonomen Waffen («Ban Lethal Autonomous Weapons») einen Albtraum-Kurzfilm veröffentlicht, der ein Horror-Szenario durchspielt: In knapp acht Minuten zeigt der Science-Fiction-Clip, welch verheerende Folgen solch eine Technologie hätte, würde sie ausser Kontrolle geraten.

Slaughterbots – der Kurzfilm

abspielen

Video: YouTube/Stop Autonomous Weapons

Zu Beginn des von Elon Musk mitfinanzierten Films «Slaughterbots» (Deutsch: Schlachtroboter) präsentiert ein Vertreter einer Rüstungsfirma stolz und im Stile einer Apple-Keynote von Steve Jobs eine Minidrohne – kaum grösser als ein Fünffränkler.

Speziell daran: Das Gerät ist bewaffnet und kann dank Gesichtserkennung und künstlicher Intelligenz selbstständig und gezielt einen Menschen töten, indem sie auf der Stirn des Zieles eine kleine Sprengladung zündet.

Schwärmer voller autonomer Drohnen

In gekonnter Hollywood-Manier entwickelt sich der Kurzfilm zu einem regelrechten Apokalypse-Streifen: Denn bald schon sorgen ganze Schwärme solcher autonomer Drohnen für Unruhe, Schrecken und Tod – ohne dass jemand weiss, wer dahinter steckt.

Zum Schluss spricht der Informatiker Stuart Russel von der Berkley-Universität, wie Tesla-Milliardär Ellon Musk einer von über 20'000 Unterstützern der internationalen Kampagne zum Stopp von Killerrobotern. Er ist einer der wichtigsten Forscher im Bereich der künstlichen Intelligenz und warnt: «Wir können die Zukunft, die sie gerade gesehen haben, verhindern. Aber unser Zeitfenster schliesst sich schnell.»

Dieser Roboter macht Rückwärtssaltos

abspielen

Video: watson

Wenn Maschinen über Leben und Tod entscheiden

Das Video hat natürlich nicht viel mit sachlicher Diskussion zu tun – und dies wohl ganz bewusst, da Sachlichkeit Debatten durchaus verschleppen kann. Die Initianten setzen also gezielt auf Emotionen, ob sie die Debatte voranbringt, wird sich zeigen.

Sieht man den Kurzfilm an, da fragt man sich dennoch: Warum gibt's kein Verbot, wo liegt das Problem?

Nun, die Antwort sind weitere Fragen: Was genau soll eigentlich verboten werden? So etwas wie im Kurzfilm gibt es heute noch nicht, auch wenn verschiedene Staaten bereits an vollautonomen Waffensystemen forschen. 

Und dennoch: Im Gegensatz zu beispielsweise einer Landmine oder zu Streumunition ist heute noch nicht klar, was eigentlich alles als ein «tödliches autonomes Waffensystem» zu definieren ist. Und schon heute gibt es Waffen mit einer gewissen Selbstständigkeit. Ab wann ist sie autonom? Wo wird also die Grenze gezogen (wenn überhaupt)? 

Das Problem mit der «künstlichen Intelligenz»

Das Thema wirft allerlei ethische, sicherheitspolitische und rechtliche Fragen auf: Kann künstliche Intelligenz menschliches Urteilsvermögen ersetzen? Kann der Roboter zwischen Zivilisten und Soldaten, zwischen Verletztem und Angreifer, zwischen Gut und Böse unterscheiden? Kann ein Computer, dem das menschliche Einfühlungsvermögen fehlt, Menschen- und Völkerrecht wahren? Befürworter von Kampfrobotern führen ins Feld, dass die autonomen Waffensysteme auch Vorteile hätten, da sie keine Fehlentscheidungen aufgrund menschlicher Emotionen wie Angst, Wut oder Rachegelüsten treffen würden.

Kein Fortschritt bei Reglementierung 

Ob und wie sogenannte Killer-Roboter als Kriegsmaschinen überwacht und reglementiert werden sollen, hat diese Woche Regierungsvertreter aus rund 100 Ländern in Genf beschäftigt. Am Freitag verständigten sie sich im Prinzip nur auf eine Fortsetzung ihrer Beratungen im nächsten Jahr.

Zu dem dringenden Aufruf von Menschenrechtlern und Experten künstlicher Intelligenz, schleunigst Regeln zu schaffen, bevor solche tödlichen autonomen Waffen einsatzbereit sind, sagte der Vorsitzende der Beratungen, der indische Botschafter Amandeep Gill: «Man sollte die Sache nicht dramatisieren. Roboter werden nicht die Welt übernehmen.»

Aktivisten und Experten sowie blockfreie Staaten – solche, die mit keinem der grösseren Militärmächte verbündet sind – fordern ein Verbot solcher Waffen. Vor allem waffenproduzierende Länder wollen aber keine Auflagen, die die Zukunftsentwicklungen behindern könnten.

Nach so viel Zukunft ein bisschen retro:

Alte Fotos zeigen die Schweiz während des Zweiten Weltkriegs

Link zum Artikel

Diese Bilder durfte die Schweizer Presse im Zweiten Weltkrieg nicht zeigen

Link zum Artikel

Busen-Pillen und Alpenbitter – Schweizer Werbung im Zweiten Weltkrieg

Link zum Artikel

Ab in die Badi! Das sagten sich auch schon unsere Grosseltern – und so sah das damals aus

Link zum Artikel

Was Menschen früher am Sonntag so trieben ...

Link zum Artikel

47 Bilder zeigen, was die Models Backstage so trieben, als es noch keine Smartphones gab

Link zum Artikel

Anno dazumal auf dem Bürgenstock: 29 wahnsinnig schöne Bilder von Audrey Hepburn                 

Link zum Artikel

Als es am Gotthard noch gemütlich zu und her ging

Link zum Artikel

Vertraut und doch ganz anders – so sah die Schweiz vor hundert Jahren aus

Link zum Artikel

Nazi-Schmierfinken, Mord und Blechschaden: Polizeibilder aus Zürich von damals

Link zum Artikel

Grossartige Fotos aus Basel, als über dem Birsig noch Plumpsklos hingen

Link zum Artikel

Fantastische Bilder aus einer Zeit, in der in Zürich noch keine Hipster rumkurvten

Link zum Artikel

Wow! So sah Luzern aus, bevor die Japaner die Stadt ins Internet gestellt haben

Link zum Artikel

Diese Bilder beweisen, dass es in Bern schon früher gemütlich zu und her ging

Link zum Artikel

In Farbe: Vor exakt 70 Jahren wurde Winston Churchill in Zürich wie ein Superstar empfangen

Link zum Artikel
Alle Artikel anzeigen

Das könnte dich auch interessieren:

CVP fährt grosse Negativ-Kampagne gegen andere Parteien – die Reaktionen sind heftig

Link zum Artikel

Wo du in dieser Saison Champions League und Europa League sehen kannst

Link zum Artikel

Migros Aare baut rund 300 Arbeitsplätze ab

Link zum Artikel

Eine Untergrund-Industrie plündert Banking-Apps wie Revolut – so gehen die Betrüger vor

Link zum Artikel

YB droht Bickel mit Gericht, nachdem er als Sportchef 40 Mio. verlochte

Link zum Artikel

Warum wir bald wieder über den Schweizer Pass reden werden

Link zum Artikel

«Ich hatte Sex mit dem Ex meiner besten Freundin…»

Link zum Artikel

Die amerikanische Agentin, die Frankreichs Résistance aufbaute

Link zum Artikel

Matheproblem um die Zahl 42 geknackt

Link zum Artikel

Wie gut kennst du dich in der Schweiz aus? Diese 11 Rätsel zeigen es dir

Link zum Artikel

«In der Schweiz gibt es zu viel Old Money und zu wenig Smart Money»

Link zum Artikel

So schneiden die Politiker im Franz-Test ab – wärst du besser?

Link zum Artikel

Röstigraben im Bundeshaus: «Sobald ich auf Deutsch wechsle, sinkt der Lärm um 10 Dezibel»

Link zum Artikel

So erklärt das OK der Hockey-WM in der Schweiz die Ähnlichkeit zum Tim-Hortons-Spot

Link zum Artikel

Die Geschichte von «Ausbrecherkönig» Walter Stürm und seinem traurigen Ende

Link zum Artikel

«Informiert euch!»: Greta liest den Amerikanern bei Trevor Noah die Leviten

Link zum Artikel

Keine Angst vor Freitag, dem 13.! Diese 13 Menschen haben bereits alles Pech aufgebraucht

Link zum Artikel

Der Kampf einer indonesischen Insel gegen den Plastik

Link zum Artikel

«Ich bin … wie soll ich es sagen … so ein bisschen ein Arschloch-Spieler»

Link zum Artikel

Alles, was du über die neuen iPhones und den «Netflix-Killer» von Apple wissen musst

Link zum Artikel

15 Bilder, die zeigen, wie wunderschön und gleichzeitig brutal die Natur ist

Link zum Artikel

Shaqiri? Xhaka? Von wegen! Zwei Torhüter sind die besten Schweizer bei «FIFA 20»

Link zum Artikel
Alle Artikel anzeigen

Abonniere unseren Newsletter

26
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
26Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • dmark 19.11.2017 16:09
    Highlight Highlight "...eine Minidrohne – kaum grösser als ein Fünffränkler."
    Also mal vorsichtshalber immer einen Tennisschläger mit nehmen? :)
  • Statler 19.11.2017 02:54
    Highlight Highlight «Kann ein Computer, [...], Menschen- und Völkerrecht wahren?»
    Vermutlich «könnte» das ein Computer besser, als es die Menschen derzeit können. Das Problem dabei ist aber, dass Computer von Menschen programmiert werden. Um es mal salopp auszudrücken: «why do dogs lick their balls? Cause they can» - Wenn man es bauen kann, wird es auch jemand bauen - und es wird Leute geben, die das einsetzen. Verbot hin oder her. Solange wir der Meinung sind, dass es ok ist, «böse» Menschen abzuknallen, werden sich nur die Mittel dazu verändern.
    • You will not be able to use your remote control. 19.11.2017 12:52
      Highlight Highlight > Vermutlich «könnte» das ein Computer besser

      Worauf beruht diese Vermutung?

      Ein Computer kann nicht verstehen, was Menschen- und Völkerrecht bedeutet.
  • Spooky 18.11.2017 20:23
    Highlight Highlight So ein totaler Quatsch!

    Im Krieg ist nichts verboten.

    Auch nicht die Lüge.
  • Groovy 18.11.2017 15:53
    Highlight Highlight Nach der Lektüre "Kill Decision" von Daniel Suarez, wird einem Angst und Bange vor dem Szenario. Das Buch wurde vor 5 Jahren schon veröffentlicht.
  • YesImAMillenial 18.11.2017 14:30
    Highlight Highlight black mirror lässt grüssen
  • petrolleis 18.11.2017 13:20
    Highlight Highlight die befürworter sollten sich mal den film "terminator" ansehen. zwar nur ein film aber langsam kommen wir der sache immer näher. es heisst dann vielleicht nicht skynet, aber das resultat wäre das gleiche...

    beängstigend finde ich auch die entwicklung von KI, die viel klüger als menschen sein soll... und dann noch davon schwärmen, wie toll das sein wird. es könnte eines tages wirklich nach hinten los gehen.
  • Thinktank 18.11.2017 12:16
    Highlight Highlight Was ist am automatisierten Krieg schlecht. In Zukunft ionisieren Blechbüchsen andere Blechbüchsen und kein Mensch wird verletzt.
  • Nevermind 18.11.2017 12:01
    Highlight Highlight Das Problem mit Kampfrobotern ist grundsätzlich die niedrige Hemmschwelle für den Einsatz.
    Keine Eltern und Verwandten die trauern. Kein Volk, dass die Bilder der Heimkehrenden Särge leid ist.
    Der Einsatz ist nur durch den Output der Fabriken limitiert.
  • Typu 18.11.2017 11:54
    Highlight Highlight Wieso die empörung? Ist grundsätzlich eine normale weiterentwicklung des bestehenden. Was dem menschen einfällt setzt er früher oder später um.
  • pamayer 18.11.2017 10:02
    Highlight Highlight Zum Glück kann niemand solche Systeme hacken. Da können wir uns beruhigt zurücklehnen und weiter Nachricht... Was zum Teufel kommt da zum Fernseher raus... Das bewegt sich ja... Aaaaaa









    Zum Glück kann man solche Systeme nicht hacken.
  • zombie woof 18.11.2017 09:51
    Highlight Highlight Krieg an sich ist schon pervers genug, jetzt wird das Perverse perfektioniert. Ich denke nur grad darüber nach, was ich machen würde, wenn ein Teil meiner unschuldigen Familie von einem Roboter oder Drohne gekillt wird?
  • dracului 18.11.2017 09:30
    Highlight Highlight Jede Technologie wird früher oder später militärisch ausgenutzt! Bereits heute haben US Dronen global mehrere tausend Personen exekutiert und dabei nur 15% Zivilisten erwischt. Bald gibt es noch ausgereiftere Technologien und die permanente Angst, dass ein Gegner weiter sein könnte, treibt die digitale Aufrüstung unaufhaltsam voran. Maschinen können (noch?) reglementiert werden - die Natur des Menschen nicht. So lehrt es uns die Geschichte. Manchmal hoffe ich, dass wir Maschinen schaffen, die uns irgendwann von der globalen Zerstörung abhalten, denn aus eigenem Antrieb schaffen wir das nie!
    • Skater88 18.11.2017 12:50
      Highlight Highlight Umgekehrt, die meisten zivilen Technologien stammen von militärischer Forschung.
  • _kokolorix 18.11.2017 09:26
    Highlight Highlight Ein offizielles Verbot wäre bestimmt gut, man sollte solche Systeme mit allen Mitteln behindern.
    Aber ein Blick in die Vergangenheit zeigt, in einer kapitalistischen Wirtschaft ist mit Verboten kaum etwas zu erreichen. Jedes noch so abartiges Produkt, das irgendwo einen Käufer findet wird hergestellt und geliefert. Dafür sorgen Staaten wie die Schweiz, wo die Transparenz der Geldflüsse mit allen Mitteln verhindert wird.
    • _kokolorix 18.11.2017 09:40
      Highlight Highlight Man stelle sich nur mal das Geschäftsmodell der Schutzgeldzahlung vor welches mit solchen Drohnen realisiert werden könnte. Wer nicht bezahlt wird irgendwann von so einem Gerät gemeuchelt. Es braucht keinen persönlichen Kontakt, nur ein Gerücht, dass z.B. alle Personen mit roten Haaren bedroht seien und schon werden viele ängstliche, rothaarige zahlen.
      Ich bin sicher, dass dem einen oder anderen Konzernmanager bei dem Gedanken der Geifer zu laufen beginnt. Dass diese Leute absolut keine Skrupel haben, haben sie uns ja längst bewiesen.
  • Raphael Stein 18.11.2017 09:24
    Highlight Highlight Willkommen in unserer Zukunft.

    Das Buch "Das letzte Kapitel der Menschheit" ist noch grad nicht gedruckt. Man schreibt noch dran.
  • Karl Müller 18.11.2017 09:14
    Highlight Highlight "Kann der Roboter zwischen Zivilisten und Soldaten, zwischen Verletztem und Angreifer, zwischen Gut und Böse unterscheiden? Kann ein Computer, dem das menschliche Einfühlungsvermögen fehlt, Menschen- und Völkerrecht wahren?"

    Ach, können denn Menschen das? Ich schätze, ein Kampfroboter den man entsprechend programmiert, agiert im Schnitt humaner als ein menschlicher Soldat.
    • You will not be able to use your remote control. 19.11.2017 12:56
      Highlight Highlight > Ich schätze, ein Kampfroboter den man entsprechend programmiert, agiert im Schnitt humaner als ein menschlicher Soldat.

      Er kann nicht human agieren, er entscheidet mechanisch.
  • Henzo 18.11.2017 07:28
    Highlight Highlight Und dann fragt man sich, weshalb terroristen wie pilze aus dem boden spriesen... Gegen wehn sollen die sich wehren? Werden die bauern ihre ziege gegen eine AK-47 tauschen um dann damit gegen roboter ein wettschiessen machen, das sie ohne aussicht auf erfolg mit dem leben bezahlen werden? Nein, die schnallen sich lieber eine bombe um den körper oder mieten einen lastwagen und wählen ein verletzliches ziel: zivilisten
  • Sir_Nik 18.11.2017 06:43
    Highlight Highlight „Befürworter von Kampfrobotern führen ins Feld, dass die autonomen Waffensysteme auch Vorteile hätten, da sie keine Fehlentscheidungen aufgrund menschlicher Emotionen wie Angst, Wut oder Rachegelüsten treffen würden.“

    Basierend auf dieser Aussage sollte man dann aber als erstes die Menschen, die Kriege beginnen, durch Roboter ersetzen.
  • Wilhelm Dingo 18.11.2017 05:53
    Highlight Highlight Drohnenkriege werden reine Ressourcenkriege weil jede Hemmung durch ‚eigene‘ tote Soldaten entfällt. Das ist bereits heute zu beobachten. Sehr gefährlich.
  • ohjaja! 18.11.2017 00:54
    Highlight Highlight (auch die GsoA) 😂 moll super...
  • barmi 18.11.2017 00:12
    Highlight Highlight Die Wissenschaft ist uns Menschen mittlerweile voraus, bevor solche ''Slaughterrobots' Realität werden müssten wir eine Antwort auf die erwähnten moralischen Fragen finden. Doch dazu rennt diese Zeit davon...

    Ich bin der Meinung, kein autonomer Roboter darf in der Lage sein Lebewesen (ja auch Tiere) zu töten, da die Wissenschaft der Menschheit dienen sollte und nicht schaden.
  • Zeyben 17.11.2017 23:23
    Highlight Highlight Hat die UN nun ein Verbot von autonomen Waffensystemen abgelehnt? Das würde den steigenden Einfluss der USA erklären.
  • Kong 17.11.2017 22:51
    Highlight Highlight Die Armee ist bereits stark technisiert und bedient sich fast schon pionierhaft neuesten Errungenschaften. In UK fliegt schon länger Taranis, noch am Zügel eines Operators aber eigentlich für vollautonom ausgelegt. Vermutlich wird die moralische Entrüstung nach einer "Rasterattacke" auf beschaulichem Niveau bleiben, wie bei heutigen Drohnenangriffen bereits üblich. Im Video erschreckt ja augenscheinlich, das es unsere westliche Welt trifft und quasi die Guten sterben. Die Bösen hätten es verdient. Das haben wir von Hollywood schon breit abgestützt gelernt. Bedenklich. Das muss man beobachten

Für Trump ist billiges Benzin wichtiger als ein Krieg gegen Iran

Nach dem Drohnenangriff auf Ölanlagen in Saudi-Arabien nimmt die Gefahr eines Kriegs in der Golfregion weiter zu. US-Präsident Donald Trump kann ein solches Szenario nicht gebrauchen.

Einmal mehr brennt es am Persischen Golf, im wahrsten Sinne des Wortes. Bei mutmasslichen Drohnenangriffen auf saudische Ölanlagen am Samstag wurde unter anderem die grösste Raffinerie des Landes in Abakik getroffen. Die Feuer sollen unter Kontrolle sein, doch die Einschränkung der Produktion sorgte prompt für einen Anstieg des Ölpreises.

Die Verantwortung für den Angriff übernahmen die Huthi-Rebellen in Jemen, die seit 2015 von einer Allianz unter Führung von Saudi-Arabien mit Luftangriffen …

Artikel lesen
Link zum Artikel