DE | FR
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Selbstfahrende Autos gehören bald zum Strassenbild. Es gibt aber ethische Herausforderungen, über die wir uns jetzt schon unterhalten sollten.
bild: GraphicaArtis/Getty Images

Nehmen wir ein paar tausend Tote durch selbstfahrende Autos in Kauf, um eine Million Menschenleben zu retten?

Der weltgrösste Autobauer Toyota will schon bald selbstfahrende Autos entwickeln. Bevor aber der Weg für autonome Autos frei ist, muss ein unlösbares moralisches Dilemma geklärt werden.

Raffael Schuppisser / Aargauer Zeitung



1 / 28
Das sind die ersten selbstfahrenden Autos
Auf Facebook teilenAuf Twitter teilenWhatsapp sharer

Dieses Versprechen wird Toyota nicht halten können: Der weltgrösste Autobauer will mithilfe künstlicher Intelligenz selbstfahrende Autos entwickeln, «die unfähig sind, einen Unfall zu verursachen». Das liess der japanische Konzern diese Woche an der Consumer Electronic Show in Las Vegas verlauten.

Keine Software ist ohne Fehler. Das gilt erst recht für die künstliche Intelligenz (KI), welche die Toyota-Fahrzeuge in Zukunft sicher über Autobahnen und durch Städte steuern soll.

Irgendwann wird sich die KI in einer unerwarteten und besonders verworrenen Verkehrssituation falsch «entscheiden» und es wird zu einem Zusammenstoss kommen. In einigen Fällen lässt sich ein Unfall auch gar nicht vermeiden, weil sich andere Verkehrsteilnehmer falsch verhalten.

Was macht das autonome Auto, wenn plötzlich ein Kind auf die Strasse rennt? Für eine Vollbremse reicht die Zeit nicht aus. Ein Ausweichmanöver ist möglich, doch das würde zu einer Frontalkollision mit einem anderen Auto führen. Die KI ist nun geradezu gezwungen, einen Unfall zu verursachen. Die Frage ist nur welchen.

Darf der Tod einer Person in Kauf genommen werden, um das Leben von fünf Personen zu retten?

An diesem Beispiel zeigt sich ein grundlegendes moralisches Dilemma, das in der Philosophie als sogenanntes Trolly-Problem breit diskutiert worden ist. Das Gedankenexperiment geht auf die Philosophin Philippa Foot zurück und lautet folgendermassen: Eine Tram («Trolly») ist ausser Kontrolle geraten und droht, fünf Personen zu überrollen.

Durch Umstellen einer Weiche kann das Tram auf ein anderes Gleis umgeleitet werden. Unglücklicherweise befindet sich dort eine weitere Person. Die zentrale Frage lautet nun: Darf durch Umlegen der Weiche der Tod einer Person in Kauf genommen werden, um das Leben von fünf Personen zu retten?

Eine knifflige Frage, die aber bisher ziemlich realitätsfremd war. Doch das könnte sich nun ändern. «Das Trolly-Problem könnte in der realen Welt auftreten, wenn autonome Fahrzeuge zum Einsatz kommen», schreibt der Philosoph Patrick Lin in einer kürzlich veröffentlichten Fachpublikation. Deshalb, so meint der Forscher der California Polytechnic State University, müsse die Entwicklung von selbstfahrenden Autos von einer breiten öffentlichen Diskussion begleitet werden.

Natürlich können auch menschliche Autofahrer in Situationen geraten, in denen sie zwischen zwei verschiedenen Übeln entscheiden müssen. Etwa einem Lastwagen nach links ausweichen, wo fünf Fussgänger stehen, oder nach rechts, wo sich ein Velofahrer befindet. Wie auch immer der Fahrer reagieren wird, unter dem Zeitdruck ist keine rationale Abwägung möglich, sondern bloss eine intuitive Entscheidung.

Anders ist das bei autonomen Fahrzeugen. Sie werden sich in dieser und ähnlichen Situationen so verhalten, wie sie programmiert wurden. Doch nach welchen Prinzipien sollen sie programmiert werden?

Googles selbstfahrende Autos

1 / 7
Googles selbstfahrende Autos
quelle: ap/ap / paul sancya
Auf Facebook teilenAuf Twitter teilenWhatsapp sharer

Für Ethiker, die eine sogenannte utilitaristische Position vertreten, ist die Situation klar. Sie entscheiden sich in obigem Beispiel für jene Variante, die das «kleinste Leid» verursacht und weichen also nach rechts aus, da so nur ein Mensch (der Velofahrer) stirbt.

Doch darf man Menschenleben miteinander aufrechnen? Sogenannte deontologische Ethiker sagen Nein. Für sie hat jedes Leben einen absoluten Wert. Deshalb kann nicht eines geopfert werden, um fünf zu retten, und deshalb bleibt das Problem unlösbar. Ein moralisches Dilemma eben.

1,2 Millionen Verkehrstote

Psychologen um Jean-François Bonnefon von der französischen Toulouse School of Economcis wollten wissen, wie sich die Menschen in solchen Dilemmata entscheiden würden. Dafür konfrontierten sie über 300 Menschen mit verschiedenen Szenarien, in denen einer oder mehrere Fussgänger gerettet werden können, wenn ein selbstfahrendes Auto ausweicht und in eine Wand kracht, wobei dann der Fahrer oder ein anderer Passant getötet wird.

Die Resultate der kürzlich veröffentlichten Studie zeigen, dass die Teilnehmer mehrheitlich utilitaristische Entscheidungen fällen – sich also für jene Variante entscheiden, bei der am meisten Menschen gerettet werden können. Das gilt zumindest für Gedankenexperimente, die nicht so konstruiert sind, dass sich der Proband selber in einem selbstfahrenden Auto befindet und getötet wird. Ist dies der Fall, steigt die Anzahl jener, die sich dafür aussprechen, dass das autonome Auto eine Zufallsentscheidung trifft.

Dieses selbstfahrende Konzeptauto könnte direkt aus einem Sci-Fi-Film stammen

1 / 13
Dieses selbstfahrende Konzeptauto könnte direkt aus einem Sci-Fi-Film stammen
quelle: ap/ap / ng han guan
Auf Facebook teilenAuf Twitter teilenWhatsapp sharer

Doch auch hier stellt sich natürlich die Frage, ist es ethisch gerechtfertigt, eine solche schwierige Frage über den Tod von Menschen einfach dem Zufall zu überlassen? Man könnte daraus folgern, wenn wir nicht fähig sind, eine Entscheidung zu treffen, die von der breiten Gesellschaft gestützt wird, sollten wir autonome Autos vielleicht einfach nicht zulassen. Doch dies führt unweigerlich in ein anderes ethisches Dilemma.

Experten sind sich weitgehend einig, dass selbstfahrende Autos den Verkehr sicherer machen. So haben etwa die Google-Autos über 1,6 Millionen Kilometer zurückgelegt, ohne selber einen Unfall zu verursachen.

Im Jahr 2014 gab es in der Schweiz 243 Verkehrstote; weltweit kommen jährlich 1,2 Millionen Menschen bei einem Autounfall ums Leben. Diese Zahl könnte vielleicht auf einen Zehntel gesenkt werden, wenn man in Zukunft nur noch selbstfahrende Autos auf die Strasse liesse.

Dürfen wir autonomen Autos wirklich die Zulassung verweigern, obwohl wir damit jährlich über eine Million Menschenleben retten können? Wäre es unter diesem Gesichtspunkt nicht eher gefordert, nicht-autonome Autos zu verbieten?

Wir müssen uns also fragen, ob wir ein paar Tausend durch autonome Autos getötete Menschen in Kauf nehmen wollen, um eine Million Menschenleben zu retten. Entscheiden wir uns für die autonomen Autos, kommen wir wohl nicht darum herum, sie aufgrund von utilitaristischen Kriterien zu programmieren.

«Wir müssen zu einer Quantifizierung von Menschenleben kommen», forderte jüngst Eric Hilgendorf, Leiter derForschungsstelle Robot-Recht an der Universität Würzburg, in der Zeitschrift «Technology Review». Denn nach heutiger Rechtslage wäre es verboten, Menschenleben miteinander aufzurechnen.

Die Moral der Algorithmen

Doch wenn wir umdenken, und unsere deontologischen Prinzipien über Bord werfen, so könnte das Folgen haben, die nicht nur auf den Strassenverkehr beschränkt wären. «Wenn wir versuchen, Ethik logisch abzubilden, was ja wohl nötig wäre, um sie einer KI beizubringen, könnte das auch einen Effekt auf unsere Moralvorstellung haben», sagt Philipp Theisohn, Science-Fiction-Experte an der Universität Zürich, diese Woche im Interview mit der Nordwestschweiz.

Die rationalisierte, utilitaristische Ethik, die wir unseren Autos einimpfen, könnte also auch auf den Menschen selber überschwappen. Wir würden uns, so kann vermutet werden, bei moralischen Entscheidungen weniger von Empathie und Intuition leiten lassen und stattdessen die Konsequenzen unseres Handelns vermehrt rational gegeneinander abwägen.

So würden wir unser Denken den Algorithmen der Maschinen anpassen. Ausgerechnet in einer Welt, in der Computer und Roboter unsere Jobs streitig machen, würden wir auf Merkmale verzichten, die uns von Maschinen unterscheiden – Merkmale, die in einer automatisierten Welt umso wichtiger werden, weil sie nicht programmiert werden können. Und wiederum stellt sich die Frage: Wollen wir das wirklich?

Würdest du ein selbstfahrendes Auto kaufen?

Nun checkt mal diese krassen Karren von anno dazumal!

Link zum Artikel

Von 16 km/h bis 431 km/h: die schnellsten Strassen-Autos der Welt – nach Dekade

Link zum Artikel

Über diese 13 Verkehrsteilnehmer haben wir uns am Wochenende (wieder einmal) geärgert

Link zum Artikel

15 an sich gute Autos, die ein heavy Imageproblem haben. Nein, ehrlich, so was darfst du einfach nicht fahren!

Link zum Artikel

Goldener Cadillac mit Bierzapfhahn zu verkaufen ... wer will?

Link zum Artikel

Noch 11 Autos, die mit Imageproblemen zu kämpfen haben. Tja, auch diese gehen einfach nicht, sorry!

Link zum Artikel

«Baroni soll mal einen gut recherchierten Artikel über Toyota Hybrid schreiben!» Voilà: Powerslide mit dem Prius

Link zum Artikel

Ich fuhr eine Woche lang Offroader und war wider Erwarten total begeistert

Link zum Artikel

Die 10 häufigsten Mythen übers Autofahren im Winter: Wahr oder falsch?

Link zum Artikel

Ein Racheakt der US-Autoindustrie? 8 Fragen und Antworten zum VW-Abgasskandal

Link zum Artikel

Danke VW! Dein Skandal hat (vielleicht) die Welt gerettet

Link zum Artikel

Wir zeigen dir das Auto, du sagst uns den Film!

Link zum Artikel

Die vielen Väter des Volkswagens: Wie viel Ganz, wie viel Porsche, wie viel Hitler stecken im Käfer?

Link zum Artikel

Frage an den Haushistoriker der Volkswagen AG: Wer hat den Käfer denn nun erfunden?

Link zum Artikel
Alle Artikel anzeigen

Tesla weiter auf Rekordkurs – nicht zuletzt wegen der «Shortseller», die richtig bluten

Link zum Artikel

Sängerin Grimes und Elon Musk erwarten ein Kind – die Reaktionen sind, äh, köstlich

Link zum Artikel

Läuft bei Tesla: Börsenwert stellt GM und Ford zusammen in den Schatten

Link zum Artikel

Elon Musk tanzt in Shanghai und es ist... schaut besser selbst

Link zum Artikel

Tesla mit Rekordzahlen: So viele neue Elektroautos fahren in der Schweiz

Link zum Artikel

Ehemalige Nummer zwei der Nasa: «Ich sehe den Mars nicht als Plan B»

Link zum Artikel

Darum trauert Tesla-Chef Elon Musk um diesen Designer

Link zum Artikel

Erdogan baut den Süper-SÜV – das wissen wir über die türkische Antwort auf Tesla

Link zum Artikel

Tesla gegen Zero-Motorrad: Dieses Duell lässt «Verbrenner» alt aussehen

Link zum Artikel

Tesla-Rivale Rivian erhält 1,3 Milliarden Dollar von Investoren

Link zum Artikel

Tesla ist so wertvoll wie noch nie – und Elon Musk twittert 😂

Link zum Artikel

Ein Schweizer will mit dem Tesla von Wil nach Kapstadt – doch er kommt nicht allzu weit

Link zum Artikel

Tesla schränkt Autopilot massiv ein – Besitzer laufen Sturm

Link zum Artikel

Tech-Giganten werden wegen Todesfällen in kongolesischen Kobaltminen verklagt

Link zum Artikel

Deutscher beschädigt 74 Autos in Täsch VS – mit einem Defi

Link zum Artikel

Das sind die 10 wichtigsten Gadgets des Jahrzehnts

Link zum Artikel

Tesla als Carsharing-Auto? Mobility testet das Elektroauto

Link zum Artikel

Teslas Cybertruck erhält keine Zulassung in Europa, sagt ein Mann, der es wissen muss

Link zum Artikel

«Rache des Elektroautos»: Tesla-Fahrer kontern E-Auto-Gegner mit Tankstellen-Blockade

Link zum Artikel

Tesla-Chef fährt mit Cybertruck durch LA, baut Mini-Unfall und missachtet Verkehrsregel

Link zum Artikel

Tesla Cybertruck auf Kaliforniens Strassen sorgt für Wirbel

Link zum Artikel

«Frotzelnde Tweets in einem Streit unter Männern»: Elon Musk gewinnt vor Gericht

Link zum Artikel

17 Tonnen CO2 für einen Elektroauto-Akku? Das steckt hinter dem Mythos

Link zum Artikel

Tesla expandiert in der Schweiz ins Geschäft mit Hausbatterien

Link zum Artikel

Ist «Pädo-Typ» ein Schimpfwort? Verleumdungsprozess gegen Elon Musk hat begonnen

Link zum Artikel

5 elektrische Pick-ups, gegen die Teslas Cybertruck antreten muss

Link zum Artikel

Tesla Model S schafft 1 Million Kilometer – das musst du über den Weltrekord wissen

Link zum Artikel

Teslas Cybertruck auf Schweizer Strassen? Das musst du wissen

Link zum Artikel

Darum kapituliert der einzige Tesla-Taxifahrer von Berlin (und sattelt auf Hybrid um)

Link zum Artikel

So gross ist Teslas Cybertruck im Vergleich mit einem VW Golf 😳

Link zum Artikel

Tesla enthüllt den scharfkantigen «Cybertruck» – und das Internet dreht völlig ab

Link zum Artikel

Im falschen Film? Nein, Tesla hat gerade den Cybertruck enthüllt

Link zum Artikel

Tesla-Chef Musk bereut, mit Comedian Joe Rogan gekifft zu haben

Link zum Artikel

Ford enthüllt Elektro-Mustang – Tesla schlägt mit Cybertruck-Pickup zurück

Link zum Artikel

Österreich hat ein Problem: Warum sich niemand traut, diesen Tesla zu entsorgen

Link zum Artikel

Tesla macht der deutschen Autoindustrie Feuer unter dem Hintern 🔥

Link zum Artikel

Tesla gründet Fabrik bei Berlin – Twitter-Nutzer lachen über Berliner Flughafen

Link zum Artikel

Tesla baut Giga-Fabrik in Deutschland – 10'000 Arbeitsplätze entstehen

Link zum Artikel

«Gehe offline»: Tesla-Chef Musk hat die Schnauze voll von Twitter

Link zum Artikel
Alle Artikel anzeigen

So futuristisch sieht der erste selbstfahrende Lastwagen aus

1 / 14
So futuristisch sieht der erste selbstfahrende Lastwagen aus
Auf Facebook teilenAuf Twitter teilenWhatsapp sharer

(aargauerzeitung.ch)

DANKE FÜR DIE ♥
Würdest du gerne watson und Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
Oder unterstütze uns per Banküberweisung.

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

Themen

James May: «Ehrlich gesagt bin ich ordentlich angep*sst, Elon Musk!»

Wer hätte das gedacht: Bei langen Standzeiten kann es dazu kommen, dass sich der Tesla Model S keinen Meter bewegen lässt, obwohl der Akku randvoll ist.

James May mag seinen Tesla Model S. Mit sichtlicher Begeisterung ging er bereits in mehreren Drivetribe-Vlogs darauf ein. Vor Kurzem gab es zwar auch ein Video mit Titel «6 Sachen, die May an seinem Tesla nicht mag», aber das waren, wie er selbst zugibt, eigentliche Belanglosigkeiten wie das Geräusch der Heckklappe beim Schliessen oder die Tatsache, dass das Auto momentan schmutzig ist. Aber nun ist hier was, das schlicht einen Konzeptfehler darstellt:

Was passiert, wenn man mehrere Monate seinen …

Artikel lesen
Link zum Artikel