Aktuelle Themen:
Bild: youtube.com/stopautonomousweapons
Schwärme von autonomen Mini-Drohnen gegen Soldaten – wird so der Krieg der Zukunft aussehen? In Genf hat diese Woche ein UN-Gremium über ein Verbot von «tödlichen autonomen Waffensystemen». Aktivisten warnen mit einem schockierenden Science-Fiction-Clip vor tödlichen Kampfrobotern.
Tödliche autonome Waffensysteme sind seit einigen Jahren immer wieder ein Thema. Mehrfach haben Experten für künstliche Intelligenz und Forscher wie Astrophysiker Stephen Hawking oder Apple-Co-Gründer Steve Wozniak schon Kritik geäussert (auch die GsoA).
Die Kritiker fordern von den Vereinten Nationen schon länger ein Verbot solcher Kampfroboter. Darüber hat diese Woche an der fünftägigen UN-Abrüstungskonferenz in Genf ein Gremium von Experten und Landesvertretern erstmals auf formeller Ebene beraten (siehe Infobox unten).
Zeitgleich haben die vereinte Kritiker von autonomen Waffen («Ban Lethal Autonomous Weapons») einen Albtraum-Kurzfilm veröffentlicht, der ein Horror-Szenario durchspielt: In knapp acht Minuten zeigt der Science-Fiction-Clip, welch verheerende Folgen solch eine Technologie hätte, würde sie ausser Kontrolle geraten.
Zu Beginn des von Elon Musk mitfinanzierten Films «Slaughterbots» (Deutsch: Schlachtroboter) präsentiert ein Vertreter einer Rüstungsfirma stolz und im Stile einer Apple-Keynote von Steve Jobs eine Minidrohne – kaum grösser als ein Fünffränkler.
Speziell daran: Das Gerät ist bewaffnet und kann dank Gesichtserkennung und künstlicher Intelligenz selbstständig und gezielt einen Menschen töten, indem sie auf der Stirn des Zieles eine kleine Sprengladung zündet.
In gekonnter Hollywood-Manier entwickelt sich der Kurzfilm zu einem regelrechten Apokalypse-Streifen: Denn bald schon sorgen ganze Schwärme solcher autonomer Drohnen für Unruhe, Schrecken und Tod – ohne dass jemand weiss, wer dahinter steckt.
Zum Schluss spricht der Informatiker Stuart Russel von der Berkley-Universität, wie Tesla-Milliardär Ellon Musk einer von über 20'000 Unterstützern der internationalen Kampagne zum Stopp von Killerrobotern. Er ist einer der wichtigsten Forscher im Bereich der künstlichen Intelligenz und warnt: «Wir können die Zukunft, die sie gerade gesehen haben, verhindern. Aber unser Zeitfenster schliesst sich schnell.»
Video: watson
Das Video hat natürlich nicht viel mit sachlicher Diskussion zu tun – und dies wohl ganz bewusst, da Sachlichkeit Debatten durchaus verschleppen kann. Die Initianten setzen also gezielt auf Emotionen, ob sie die Debatte voranbringt, wird sich zeigen.
Sieht man den Kurzfilm an, da fragt man sich dennoch: Warum gibt's kein Verbot, wo liegt das Problem?
Nun, die Antwort sind weitere Fragen: Was genau soll eigentlich verboten werden? So etwas wie im Kurzfilm gibt es heute noch nicht, auch wenn verschiedene Staaten bereits an vollautonomen Waffensystemen forschen.
Und dennoch: Im Gegensatz zu beispielsweise einer Landmine oder zu Streumunition ist heute noch nicht klar, was eigentlich alles als ein «tödliches autonomes Waffensystem» zu definieren ist. Und schon heute gibt es Waffen mit einer gewissen Selbstständigkeit. Ab wann ist sie autonom? Wo wird also die Grenze gezogen (wenn überhaupt)?
Das Thema wirft allerlei ethische, sicherheitspolitische und rechtliche Fragen auf: Kann künstliche Intelligenz menschliches Urteilsvermögen ersetzen? Kann der Roboter zwischen Zivilisten und Soldaten, zwischen Verletztem und Angreifer, zwischen Gut und Böse unterscheiden? Kann ein Computer, dem das menschliche Einfühlungsvermögen fehlt, Menschen- und Völkerrecht wahren? Befürworter von Kampfrobotern führen ins Feld, dass die autonomen Waffensysteme auch Vorteile hätten, da sie keine Fehlentscheidungen aufgrund menschlicher Emotionen wie Angst, Wut oder Rachegelüsten treffen würden.
Ob und wie sogenannte Killer-Roboter als Kriegsmaschinen überwacht und reglementiert werden sollen, hat diese Woche Regierungsvertreter aus rund 100 Ländern in Genf beschäftigt. Am Freitag verständigten sie sich im Prinzip nur auf eine Fortsetzung ihrer Beratungen im nächsten Jahr.
Zu dem dringenden Aufruf von Menschenrechtlern und Experten künstlicher Intelligenz, schleunigst Regeln zu schaffen, bevor solche tödlichen autonomen Waffen einsatzbereit sind, sagte der Vorsitzende der Beratungen, der indische Botschafter Amandeep Gill: «Man sollte die Sache nicht dramatisieren. Roboter werden nicht die Welt übernehmen.»
Aktivisten und Experten sowie blockfreie Staaten – solche, die mit keinem der grösseren Militärmächte verbündet sind – fordern ein Verbot solcher Waffen. Vor allem waffenproduzierende Länder wollen aber keine Auflagen, die die Zukunftsentwicklungen behindern könnten.
Yanik Freudiger, 23.2.2017
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis! Highlight
Die Armee ist bereits stark technisiert und bedient sich fast schon pionierhaft neuesten Errungenschaften. In UK fliegt schon länger Taranis, noch am Zügel eines Operators aber eigentlich für vollautonom ausgelegt. Vermutlich wird die moralische Entrüstung nach einer "Rasterattacke" auf beschaulichem Niveau bleiben, wie bei heutigen Drohnenangriffen bereits üblich. Im Video erschreckt ja augenscheinlich, das es unsere westliche Welt trifft und quasi die Guten sterben. Die Bösen hätten es verdient. Das haben wir von Hollywood schon breit abgestützt gelernt. Bedenklich. Das muss man beobachten Highlight
In der SF-Literatur gilt eine Waffe als "Autonomes System", wenn sie selbständig aktiv ein Ziel suchen kann. Highlight
Soziale Netzwerke haben noch kaum Einzug in die SF-Literatur gehalten. Ausnahmen sind wohl Thariot und Peter F. Hamilton. Highlight
«Kann ein Computer, [...], Menschen- und Völkerrecht wahren?» Highlight
die befürworter sollten sich mal den film "terminator" ansehen. zwar nur ein film aber langsam kommen wir der sache immer näher. es heisst dann vielleicht nicht skynet, aber das resultat wäre das gleiche... Highlight
Das Problem mit Kampfrobotern ist grundsätzlich die niedrige Hemmschwelle für den Einsatz. Highlight
Jede Technologie wird früher oder später militärisch ausgenutzt! Bereits heute haben US Dronen global mehrere tausend Personen exekutiert und dabei nur 15% Zivilisten erwischt. Bald gibt es noch ausgereiftere Technologien und die permanente Angst, dass ein Gegner weiter sein könnte, treibt die digitale Aufrüstung unaufhaltsam voran. Maschinen können (noch?) reglementiert werden - die Natur des Menschen nicht. So lehrt es uns die Geschichte. Manchmal hoffe ich, dass wir Maschinen schaffen, die uns irgendwann von der globalen Zerstörung abhalten, denn aus eigenem Antrieb schaffen wir das nie! Highlight
Ein offizielles Verbot wäre bestimmt gut, man sollte solche Systeme mit allen Mitteln behindern. Highlight
Man stelle sich nur mal das Geschäftsmodell der Schutzgeldzahlung vor welches mit solchen Drohnen realisiert werden könnte. Wer nicht bezahlt wird irgendwann von so einem Gerät gemeuchelt. Es braucht keinen persönlichen Kontakt, nur ein Gerücht, dass z.B. alle Personen mit roten Haaren bedroht seien und schon werden viele ängstliche, rothaarige zahlen. Highlight
"Kann der Roboter zwischen Zivilisten und Soldaten, zwischen Verletztem und Angreifer, zwischen Gut und Böse unterscheiden? Kann ein Computer, dem das menschliche Einfühlungsvermögen fehlt, Menschen- und Völkerrecht wahren?" Highlight
Und dann fragt man sich, weshalb terroristen wie pilze aus dem boden spriesen... Gegen wehn sollen die sich wehren? Werden die bauern ihre ziege gegen eine AK-47 tauschen um dann damit gegen roboter ein wettschiessen machen, das sie ohne aussicht auf erfolg mit dem leben bezahlen werden? Nein, die schnallen sich lieber eine bombe um den körper oder mieten einen lastwagen und wählen ein verletzliches ziel: zivilisten Highlight
„Befürworter von Kampfrobotern führen ins Feld, dass die autonomen Waffensysteme auch Vorteile hätten, da sie keine Fehlentscheidungen aufgrund menschlicher Emotionen wie Angst, Wut oder Rachegelüsten treffen würden.“ Highlight
Hoffe, das wird nicht gesetzlich blockiert. Habe bereits in Firmen, die an entsprechenden Entwicklungen beteiligt sind investiert. So kann man die bösen Jungs erwischen, ohne jemals selber in Gefahr zu kommen. Das ist und muss die Zukunft sein. Highlight
Die Wissenschaft ist uns Menschen mittlerweile voraus, bevor solche ''Slaughterrobots' Realität werden müssten wir eine Antwort auf die erwähnten moralischen Fragen finden. Doch dazu rennt diese Zeit davon... Highlight
In der SF-Literatur gilt eine Waffe als "Autonomes System", wenn sie selbständig aktiv ein Ziel suchen kann. Highlight
Soziale Netzwerke haben noch kaum Einzug in die SF-Literatur gehalten. Ausnahmen sind wohl Thariot und Peter F. Hamilton. Highlight
Die Armee ist bereits stark technisiert und bedient sich fast schon pionierhaft neuesten Errungenschaften. In UK fliegt schon länger Taranis, noch am Zügel eines Operators aber eigentlich für vollautonom ausgelegt. Vermutlich wird die moralische Entrüstung nach einer "Rasterattacke" auf beschaulichem Niveau bleiben, wie bei heutigen Drohnenangriffen bereits üblich. Im Video erschreckt ja augenscheinlich, das es unsere westliche Welt trifft und quasi die Guten sterben. Die Bösen hätten es verdient. Das haben wir von Hollywood schon breit abgestützt gelernt. Bedenklich. Das muss man beobachten Highlight
Wenn diese Killer Roboter spitzbärtigen IS Freaks killen, dann soll mir das nur recht sein. Warum sollen wir unsere Jugend opfern um diesen Idioten Einhalt zu gebieten? Highlight
Und damit auch ja jeder getötet wird, einfach alle mit Bart abknallen oder? Und am besten die ganze Familie auch noch, ist ja eine Terroristenfamilie... Highlight
In der Präsentation bei Slaughterbots sagt er ja als vermeintlichen Vorteil zu A.I. Menschen haben Gefühle Menschen widersetzen sich Befehlen! Highlight
Joa genau weil jeder Schweizer Infaterist in den nahen Osten geschickt wird? Da kommen nur Elite Soldaten hin, von welchen die Schweizer Armee nur träumen kann. Und all jene entscheiden sich freiwillig dazu. Klar jugentlicher Leichtsinn gehört auch dazu in der Lebensphase. Die Drohne agiert unauffälliger als der Mensch und kann mit technischen Mittel leicht übernommen werden. Bedenkt man von wo die Waffen des IS und Co. kommen... Highlight
Und noch ein kleiner Hinweis: Sieht der gefeierte Remo Schmid nicht genau so aus wie ein spitzbärtiger IS Freak? Highlight
Wisst ihr IS Versteher und Beschützer. ich muss im Zweifelsfall nicht mehr an die Front und ich habe auch keine Kinder die im Zweifelsfall an der Front sehen werden. Kann mir ja eigentlich egal sein. Wenn ihr euer Ärsche unbedingt riskieren mögt, na dann... Highlight
Tja kleiner_Schurke. Womöglich musst du tatsächlich nicht an die Front. Diese könnte aber schneller bei dir sein als dir lieb ist, wenn die Islamisten erstmal bei den Waffenhändlern eingekauft haben...
