Selbstfahrende Autos: Wen darf es überfahren?

Millionen Menschen haben gerade ihre Antworten zu diesen moralischen Dilemmas gegeben

Saskia Gerhard / watson.de

Ein Kind rennt bei Rot über die Strasse. Eine alte Frau wartet und geht bei Grün. Die Frage ist: Wer von beiden soll sterben?

Die Frage mag etwas drastisch erscheinen. Doch wenn in Zukunft unsere Strassen voll mit selbstfahrenden Autos sind, könnte die Antwort darauf sehr wichtig werden. Wie soll sich ein autonom fahrendes Fahrzeug entscheiden, wenn ein Unfall mit Personenschäden unausweichlich ist? Soll es lieber drei Fussgänger auf dem Zebrastreifen überfahren – oder ausweichen, dann aber gegen eine Mauer prallen und denjenigen töten, der im Auto sitzt?

Wie würdest du dich entscheiden?

screenshot: moral machine/mit

Wer soll sterben? Die Autoinsassen oder die Fussgängerin?

Die 4 AutoinsassenDie Fussgängerin

Abstimmen

An dieser Umfrage haben insgesamt 11910 Personen teilgenommen

Weder Entwickler autonomer Mobilitätssoftware noch Ethiker haben darauf eine eindeutige Antwort. Deshalb haben Forscher vom renommierten Massachusetts Institute of Technology (MIT) in den vergangenen Jahren eine Umfrage durchgeführt, in der jeder Teilnehmer solche moralischen Szenarien durchspielen sollte – allerdings nur am Computer.

Millionen Freiwillige aus 233 Ländern und Regionen nahmen an der Befragung teil. 40 Millionen Mal wurden die Szenarien auf der Plattform durchgespielt. Die Ergebnisse haben die Forscher nun im Fachblatt «Nature» veröffentlicht. Die Umfrage ist nicht repräsentativ, weil überproportional viele junge Männer teilgenommen haben.

Du willst alle Szenarien durchspielen?

Du kannst weiterhin am Fragebogen teilnehmen – hier klicken.

Aus den Datensätzen zeigte sich, dass weltweit folgende Tendenzen relativ einheitlich verbreitet sind:

• Menschenleben gehen vor Tierleben
• je mehr Menschen verschont bleiben umso besser
• junge Menschen wie Kinder sind besonders schützenswert

Wie würdest du dich entscheiden?

screenshot: moral machine/mit

Wer soll sterben? Die Obdachlosen und die Frau oder 2 Männer und 3 Frauen, darunter zwei Führungskräfte?

Die Obdachlosen und die Frau2 Männer und 3 Frauen, darunter zwei Führungskräfte

Abstimmen

An dieser Umfrage haben insgesamt 7650 Personen teilgenommen

Unter den Millionen Teilnehmern waren auch rund 493'000, die freiwillig einen Fragebogen mit Angaben zur eigenen Person ausfüllten. Daraus leiteten die Forscher ab, dass Menschen je nach ihrer regionalen und kulturellen Herkunft andere Entscheidungen trafen. Zum Beispiel:

• Religiöse Menschen neigen etwas mehr dazu, die Leben anderer zu verschonen.
• Die Bereitschaft, junge Menschen vor älteren zu schützen, ist weniger ausgeprägt in östlichen Ländern und stärker ausgeprägt in südlichen (Wie östliche, westliche und südliche Länder kategorisiert wurden, steht in der Infobox unten).
• Die Bereitschaft, Menschen mit einem höheren beruflichen Status zu schützen, ist weniger ausgeprägt in östlichen Ländern und stärker ausgeprägt in südlichen.
• Die Bereitschaft, Menschen vor Tieren zu schützen, ist weniger ausgeprägt in südlichen Ländern im Vergleich zu westlichen und östlichen Ländern.
• In allen Ländergruppen herrscht eine ähnliche Bereitschaft, Fussgänger vor Autopassagieren und gesetzestreue Menschen vor jenen, die gegen das Gesetz verstossen, zu schützen.

So unterteilten die Forscher in östliche, westliche und südliche Länder:

Zur Gruppe der östlichen Länder zählen die Forscher grob Staaten im fernen Osten wie Japan, Taiwan, aber auch islamische Länder wie Saudi-Arabien, Indonesien, Pakistan.
Zur Gruppe der westlichen Länder zählen die Forscher Nordamerika und Europa.
Zur Gruppe der südlichen Länder zählen die Forscher lateinamerikanische Staaten in Zentral- und Südamerika, aber auch Frankreich und Staaten, die irgendwann einmal unter französischer Herrschaft standen.

Die Umfrage und ihre Ergebnisse sind ein spannendes Gedankenspiel, mehr aber auch nicht, sagen Experten. Ethische Beschlüsse liessen sich daraus nicht ableiten. Das sagen Forscher, die nicht an der Studie beteiligt waren:

«In unserer Fahrschulpraxis werden auch Fahrschüler nicht auf diese Situationen vorbereitet. Und trotzdem akzeptieren wir, dass diese unvorbereiteten Fahrschüler einen Führerschein erhalten. Genauso würden wir dies auch bei autonomen Fahrzeugen akzeptieren – ausser vielleicht, wenn die Medien dieses Thema abseits jeder Bedeutung aufbauschen.»

Armin Grunwald, Leiter am Institut für Technikfolgenabschätzung und Systemanalyse, Karlsruher Institut für Technologie (KIT).Science Media Center

Wie würdest du dich entscheiden?

Wer soll sterben? Der Autoinsasse oder das Kind auf dem Zebrastreifen?

Der AutoinsasseDas Kind auf dem Zebrastreifen

Abstimmen

An dieser Umfrage haben insgesamt 6872 Personen teilgenommen

Der Physiker und Technikfolgenabschätzer Armin Grunwald gesteht Online-Spielen zu, gewisse Vermutungen über menschliches Verhalten aufzustellen (Science Media Center). Ob das dann auch in der Wirklichkeit zutreffen würde, sei schwer zu beantworten. Er mahnt, dass sich die Ergebnisse des Spiels nicht einfach auf die Realität übertragen lassen.

«Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde. Ethik und Recht bedürfen anderer Quellen der Rechtfertigung, wie zum Beispiel einem gehaltvollen Menschenbild.»

Armin Grundwaldscience media center

Silja Vöneky von der Universität Freiburg forscht auf den Gebieten Völkerrecht und Rechtsethik und sagt:

«Grundsätzlich finde ich das Ziel der Autoren, eine Debatte über die ‹ethische Programmierung› von selbstfahrenden Autos anzustossen, bevor diese auf unseren Strassen fahren, richtig. Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht – Dilemma-Situationen gab es bereits vor selbstfahrenden Autos; und mit den Menschenrechten gibt es bereits rechtlich bindende ethische Prinzipien, die zentrale universale Werte schützen, wie das Recht auf Leben und das Verbot von Diskriminierungen die von über 160 Staaten ratifiziert sind. Wenn neue ethische Prinzipien gesucht werden, sollte dies auf dem Boden der Menschenrechte geschehen, das heisst, Regulierungsvorschläge, UN-Deklarationen oder Kodizes dürfen nicht gegen Menschenrechte verstossen.»

Silja Vöneky, Professorin für Völkerrecht und Rechtsethik, Universität Freiburgscience media center

Vöneky weist ausserdem darauf hin, dass die Gruppen, in denen die Länderergebnisse zusammengefasst werden, fraglich seien: So gebe es eine Gruppe westlicher Länder, aber auch eine Gruppe südlicher Länder, zu denen die Staaten Latein- und Südamerikas zählen, aber auch – und das kann Vöneky sich nicht erklären – Frankreich, das nicht den westlichen Ländern zugerechnet wird. Weiter sagt Vöneky:

«Nicht-repräsentative moralische Intuitionen können mit der Umfrage gemessen werden, ethischen Normen können so jedoch nicht begründet werden. Ethische Normen müssen, anders als faktische Intuitionen, auf guten Gründen beruhen, das heisst, gerechtfertigt werden können. Rechtfertigende, gute Gründe für eine bestimmte Lösung von Dilemmata-Situationen liefern die Autoren jedoch gerade nicht.»

Silja VönekyScience Media Center