Schweiz
Digital

Selbstfahrende Autos finden wir toll – aber eines, das uns im Zweifelsfall tötet, wollen wir nicht

Google brachte seinen autonomen Autos bei, Kinder an Halloween zu erkennen und vorsichtiger zu fahren.
Google brachte seinen autonomen Autos bei, Kinder an Halloween zu erkennen und vorsichtiger zu fahren.
Bild: Google
Interview

Selbstfahrende Autos finden wir toll – aber eines, das uns im Zweifelsfall tötet, wollen wir nicht

Man könnte autonomen Fahrzeugen beibringen, die Zahl der Toten bei Unfällen zu minimieren. Maschinen-Ethiker Oliver Bendel warnt: Wenn die Gesellschaft nicht mitreden darf, könnten bald Autos brennen.
04.11.2015, 09:5805.11.2015, 05:01
Roman Rey
Folge mir
Mehr «Schweiz»

Wir schreiben eine nicht allzu ferne Zukunft: Eine Gruppe von Kindern überquert unerwartet die Strasse. Ein selbstfahrendes Auto rast auf sie zu und kann nicht mehr rechtzeitig bremsen. Was soll das Auto tun? Links aufs Trottoir ausweichen, wo gerade ein Rentner steht? Oder rechts in die Wand fahren und den Tod der Insassen in Kauf nehmen?

Mit diesen Fragen beschäftigen sich die Forschungsabteilungen der Autohersteller schon länger. Forscher der Ecole d'économie de Toulouse haben nun mit einer Umfrage versucht, den Puls des Volkes zu fühlen.

Das Team unter dem Psychologen Jean-François Bonnefon konfrontierte 900 mit ethischen Fragen, die sich am altbekannten Trolley-Problem (siehe Infobox) orientieren. Das Resultat: 75 Prozent der Leute sprechen sich dafür aus, dass das Auto den Insassen tötet, sogar um nur einen Fussgänger zu retten.

Wie soll das Auto reagieren?
Wie soll das Auto reagieren?
Ecole d'économie de Toulouse

Viel zögerlicher reagierten die Teilnehmer, als es darum ging, ob sie ein Auto mit einer solchen Programmierung kaufen würden – denn das würde ja bedeuten, dass das Fahrzeug sie im Falle eines Unfalls «opfern» könnte.

Maschinen-Ethiker Oliver Bendel erläutert im Gespräch, wo die Tücken einer solchen Programmierung liegen und warum die Debatte darüber unbedingt in der Öffentlichkeit stattfinden muss.

Herr Bendel, kann eine Maschine ethische Entscheidungen treffen?
Oliver Bendel: Auf jeden Fall. Man kann einer Maschine moralische Regeln beibringen, die sie sklavisch anwendet. Oder man kann sie lernen lassen und ihr die Möglichkeit geben, eigene Entscheidungen zu treffen.

Die Maschine kann aber nicht intuitiv handeln wie der Mensch. Da fehlt doch etwas.
Die Moral des Menschen setzt sich aus verschiedenen Komponenten zusammen: Ein Teil ist angeboren, einen Teil erwirbt man durchs Umfeld, ein Teil entsteht aus rationalem Denken. Und dort kann die Maschine durchaus mithalten.

«Was, wenn Kinder im Auto sind? Sind sie auch mitverantwortlich?»
Oliver Bendel

Soll also ein Auto bei einem Unfall über Leben und Tod der Beteiligten entscheiden?
Ich halte das für keine gute Idee. Das würde auch unser Wertesystem durcheinanderbringen. Wenn ein autonomes Auto entscheidet, den Lenker zugunsten zweier Fussgänger oder einen Rentner zugunsten eines Kindes zu «opfern», sprechen wir von der Anwendung bestimmter utilitaristischer Prinzipien. In unserer Kultur hat jedoch das individuelle Leben einen sehr hohen Stellenwert.

Das Trolley-Problem
Das Trolley-Problem ist ein Gedankenexperiment zu einem moralischen Dilemma. Die Situation ist wie folgt:

​Eine Strassenbahn ist ausser Kontrolle und droht, fünf Menschen zu töten. Du sitzt an einer Weiche und kannst die Bahn auf ein anderes Gleis umleiten. Dort steht aber eine weitere Person. Darf man den Tod einer Person in Kauf nehmen, um fünf andere zu retten?

​Eine Variation ist das Fetter-Mann-Problem: In diesem Szenario fährt die Bahn auf eine Gruppe von Menschen zu. Man kann sie nur stoppen, indem man einen unbeteiligten fetten Mann von einer Brücke aufs Gleis stösst.

​Im Kern des Experiments steht der Utilitarismus: Er besagt, dass die gesamte Menge an Leid minimiert werden soll.

Obwohl das Trolley-Problem aus den Sechziger-Jahren stammt, gewinnt es heute wegen den fahrerlosen Autos wieder an Aktualität.​ (rey)

Das Auto soll also in die Menschengruppe rasen.
Es gibt Leute die sagen, das Auto soll in eine Wand fahren, weil der Besitzer des Autos die Verantwortung trägt. Aber was, wenn mehrere Personen im Fahrzeug sind? Darunter Kinder? Sind sie auch mitverantwortlich? Und kann man wirklich noch von Verantwortung sprechen, wenn man dem Fahrer das Fahrzeug aufgedrängt hat?

Gute Frage ...
Ausserdem tauchen bei der Verarbeitung des Unfalls neue Probleme auf. Auf wen sollen die Eltern ihre Wut richten, wenn ein Auto entschieden hat, ihr Kind umzufahren? Es mag sich bequem anhören, als Autofahrer die Verantwortung aus der Hand zu geben. Aber ich glaube nicht, dass man in einem solchen Fall besser schläft.

«Wenn die Maschinen alles übernehmen, wird das Leben irgendwann todlangweilig.»
Oliver Bendel

Selbstfahrende Autos gelten als Hoffnung, Unfälle drastisch zu reduzieren. Wenn sie alle heiklen Situationen dem Menschen überlassen, dann bleibt aber alles beim Alten.
Es gibt weltweit jedes Jahr eine Million Verkehrstote. Das sind viel zu viele. Ich bin dafür, dass wir die Fahrerassistenzsysteme, die wir jetzt schon haben, weiter ausbauen. Bevor ich in ein Stauende rase, darf mein Fahrzeug eine Vollbremsung machen, ohne mich zu fragen. Der Fahrer soll aber eine gewisse Kontrolle über sein Fahrzeug behalten dürfen.

Nicht so wie bei den Google-Autos, die weder Pedale noch Lenkrad haben.
Wo bleibt da der Spass? Vielleicht will ich mich von meinem Auto von Genua nach Mailand fahren lassen, auf der Alpenstrasse aber das Steuer übernehmen. Einfach, weil es mir Freude bereitet und weil ich meine Fähigkeiten einsetzen kann. Maschinen können uns das Leben erleichtern, aber wenn sie alles machen, wird es irgendwann todlangweilig.

So oder so, die selbstfahrenden Autos kommen. Wer entscheidet über ihre Moral?
Mit diesen Fragen beschäftigt sich unter anderem die Maschinenethik, eine Disziplin, in der Philosophen, Experten für Künstliche Intelligenz und Informatiker zusammenarbeiten. Wir brauchen zudem eine breite öffentliche Debatte.

«Wenn die Gesellschaft bei dem Thema nicht mitreden kann, wird es Widerstand geben.»
Oliver Bendel

Könnte man den Besitzer des Autos bestimmen lassen, welches Moralprogramm er will?
Das ist eine interessante Idee, aber das würde kaum akzeptiert. Kann sich dann jemand, der es sich leisten kann, die Vorfahrt kaufen? Oder den Überlebensbonus im Falle eines Crashs? Ich glaube, es funktioniert nur, wenn alle autonomen Fahrzeuge mit einem ähnlichen System ausgerüstet sind.

Da ist die Autoindustrie gefragt. Was sagt sie dazu?
Was in den Forschungsabteilungen der Autohersteller passiert, ist leider topsecret. Das ist gefährlich. Solche Entscheidungen dürfen nicht von oben herab gefällt werden. In Deutschland droht dies, weil autonome Fahrzeuge ein enormes Prestigeprojekt sind. Dank der grossen Unterstützung der Politik sind in Deutschland seit einem Monat autonome LKWs unterwegs. Wenn die Gesellschaft bei dem Thema nicht mitreden kann, wird es Widerstand geben.

Das heisst?
Als Folge der industriellen Revolution gab es die Maschinenstürmer, die Maschinen zerstört haben, weil sie sich in ihrer Existenz bedroht fühlten. Es könnte zu einer ähnlichen Protestbewegung kommen. Nur würden in diesem Fall Autos brennen.

«Erstmals in ihrer über 2000-jährigen Geschichte ist die Ethik eine Gestaltungsdisziplin.»
Oliver Bendel
Bild
Zur Person
Oliver Bendel, 47 Jahre alt, ist Philosoph und Wirtschaftsinformatiker. Er lehrt und forscht als Professor an der Hochschule für Wirtschaft FHNW mit den Schwerpunkten E-Learning, Wissensmanagement, Social Media, Wirtschaftsethik, Informationsethik und Maschinenethik. Mehr auf www.oliverbendel.net.

Wie können wir das verhindern?
Ich sehe hier nur eine Lösung: Man muss den normalen Verkehr von den autonomen Autos trennen. Das könnte man mit eigenen Strassen oder Fahrspuren, ähnlich den Velowegen, machen. Oder man könnte selbstfahrende Autos nur zu bestimmten Zeiten fahren lassen. Nur wenn ein Technologieskeptiker weiss, dass keine Roboterautos unvermittelt um die nächste Ecke kommen, wird er sich mit deren Existenz anfreunden.

Die Technik schreitet schnell voran. Hinkt die ethische Debatte hinterher?
Nein, im Gegenteil. Für Technikphilosophen, die sich damit beschäftigen, ist dies eine sehr spannende Zeit. Erstmals in ihrer über 2000-jährigen Geschichte ist die Ethik eine Gestaltungsdisziplin. Wir können die Realität mitprägen, statt sie nur zu beschreiben und zu hinterfragen.

Das beschränkt sich nicht nur auf Autos.
Richtig. Das Pentagon investiert beispielsweise viel Geld in die Maschinenethik. Auch bei Kriegsrobotern und -drohnen stellen sich ethische Fragen. Nehmen wir an, ein Roboter spürt einen Top-Terroristen auf, den er töten soll – im Haus sind aber auch 30 Kinder. Was tut er?

Ethik für Killerroboter. Das hört sich zynisch an.
Ein Kollege stellte schon vor einiger Zeit fest: Im Gegensatz zu Soldaten vergewaltigen Kampfroboter nicht, sie brandschatzen nicht, sie plündern nicht. Obwohl ich zugeben muss, dass die Sache nicht ganz so schwarz-weiss ist, wie sie auf den ersten Blick scheint, sind sie mir deswegen doch nicht sympathisch. 

Googles selbstfahrende Autos

1 / 7
Googles selbstfahrende Autos
Im geheimen Labor Google X tüftelt der Internetkonzern an selbstfahrenden Autos.
quelle: ap/ap / paul sancya
Auf Facebook teilenAuf X teilen

Hol dir jetzt die beste News-App der Schweiz!

  • watson: 4,5 von 5 Sternchen im App-Store ☺
  • Tages-Anzeiger: 3,5 von 5 Sternchen
  • Blick: 3 von 5 Sternchen
  • 20 Minuten: 3 von 5 Sternchen

Du willst nur das Beste? Voilà:

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
51 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
rstnpce
04.11.2015 11:01registriert Januar 2015
Was wäre wenn jemand absichtlich auf die Strasse rennt um den Insassen des Autos zu töten, da dieses in die Wand lenkt?
401
Melden
Zum Kommentar
51
Scroll dich durch den Stauporn – und du wirst schneller (vorwärts-)kommen
Sie ist fast so bekannt (und zuverlässig) wie das Schweizer Sackmesser: die Blechlawine vor dem Gotthard an Festtagen im Frühling. Und das schon seit Jahren. Eine kurze Zeitreise gegen die Langeweile.

Und dann kamen dann schon bald die ersten Staus ...

Zur Story