Interview
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

Interview

Sexroboter sollen Nutzer warnen: «Ich als Maschine kann immer, überanstrenge dich nicht»

Oliver Bendel bringt Roboter Moral bei. Ein Gespräch mit dem Ethiker über Sexroboter, verbale Übergriffe auf Siri – und einen Staubsaugroboter, der seine Arbeit für Marienkäfer unterbricht.

Raffael Schuppisser / ch media



Herr Bendel, Sie sind Maschinenethiker. Bringen Sie Robotern Moral bei?
Oliver Bendel: Gewissermassen schon. Wie alle Maschinenethiker bin ich der Auffassung, dass manche Roboter nicht nur mit künstlicher Intelligenz ausgestattet werden sollten, sondern auch mit maschineller Moral. Wir erforschen und bauen moralische Maschinen.

epa06758674 (17/24) Chen interacts with his 'smart' sex doll as he lays in a bed in his home in Guangzhou, Guandong Province, China, 05 April 2018. Chen, because of his busy pharmaceutical sales job and the travel it involves, has no time for a girlfriend. Chinese girls all want to talk about marriage after the second date and he is not interested in that for now, he said. His robot takes care of all of his needs, but he would like the software to be improved so communication is better and more meaningful. Cleaning the robot can be a chore because its skin is very fragile and gets dirty easily, he said.  EPA/ALEKSANDAR PLAVEVSKI ATTENTION: For the full PHOTO ESSAY text please see Advisory Notice epa06758657

«Irgendwann wird es trotz aller Vorbehalte auch echte Roboter in den Bordellen geben», sagt Oliver Bendel. Bild: EPA

Ist Moral nicht etwas, das dem Menschen eigen ist?
Schauen wir zuerst einmal, was die Moral des Menschen ausmacht. Schnell merkt man, dass diese sehr komplex ist. Es geht um anerzogene Regeln, innere Überzeugungen, Intuition, Empathie, Emotionen. Ein Roboter hat weder Intuition noch Empathie, er hat keine Emotionen, keine inneren Überzeugungen und kein Bewusstsein für irgendetwas. Aber er kann Regeln befolgen. Wenn man ihm also moralische Regeln einprogrammiert, wird er zu einer moralischen Maschine.

Das ist praktisch. Schliesslich können bei einem Menschen Emotionen dazu führen, dass er moralische Regeln ausser Acht lässt.
Das ist richtig. Allerdings sind mir Menschen suspekt, die ohne Emotionen nur Regeln befolgen. So handeln eigentlich nur Fundamentalisten. Wenn wir also moralische Roboter bauen, so sind das kleine Fundamentalisten (lacht).

Bei welchen Maschinen wird Moral implementiert?
Zum Beispiel bei Kampfrobotern. Forscher versuchen sie so zu bauen, dass sie sich an die Genfer Konventionen halten. Sie sollen zwar töten, aber keine Kriegsverbrechen begehen. Feinde, die sich ergeben, sollen beispielsweise verschont bleiben.

Oliver Bendel

Oliver Bendel bringt Robotern Moral bei.

Ein moralischer Killer. Ist das nicht ein Widerspruch?
Für einen Pazifisten natürlich schon. Für einen Maschinenethiker nicht. Erst einmal spielt es aus Forscherperspektive keine Rolle, welche Moral man der Maschine beibringt. Es geht vor allem um die konzeptionelle und technische Frage. Nach welchen Moralvorstellungen die Roboter handeln sollen, ist dann eine Frage, welche die Gesellschaft diskutieren muss.

Ist es auch deshalb nötig, Roboter zu moralischen Wesen zu machen, damit sie uns Menschen nicht ausrotten wie der Terminator?
80 Prozent der künstlichen Kreaturen, die in Filmen und in der Literatur vorkommen, sind böse. Das geht zurück bis zu Ovid und Homer. Dass Roboter uns bald bewusst Böses antun wollen, halte ich für ausgeschlossen. Schliesslich fehlt der künstlichen Intelligenz ein Bewusstsein. Ein solches ist auch nicht in Sicht. Doch Roboter werden in unserem Alltag eine immer wichtigere Rolle spielen. Wir tun deshalb gut daran, sie so zu bauen, dass sie sich an unsere moralischen Standards halten.

Sie haben einen moralischen Staubsaugroboter entwickelt …
… der Ladybird erkennt Marienkäfer. Identifiziert er einen, stellt er sofort seine Arbeit ein und benachrichtigt seinen Nutzer. So wird verhindert, dass er eines der Tierchen versehentlich einsaugt.

«In den nächsten 10 bis 15 Jahren werden automatische und autonome Autos nicht mit dem Stadtverkehr zurechtkommen, auch wenn Hersteller da anderes behaupten.»

Beim gegenwärtigen Veganismustrend könnten Sie da auf eine Marktlücke stossen.
Naja, wir haben Hersteller mit unserem Vorschlag konfrontiert. Offene Türen haben wir nicht gerade eingerannt (lacht). Der Ladybird war aber auch eher als Experiment gedacht. Nun entwickeln wir einen Mähroboter, der Igelbabys verschont. Hier hat ein Hersteller bereits Interesse gezeigt.

Ehtische Fragen stellen sich auch beim autonomen Fahren: Wie soll ein Auto beispielweise reagieren, wenn ein Kind auf die Strasse rennt, das Auto nur nach in den Strassengraben ausweichen kann, dadurch aber der Fahrer tödlich verletzt werden könne?
Keine der Möglichkeiten ist befriedigend. Die Konsequenz ist deshalb, dass wir autonome Autos nur auf Autobahnen fahren lassen dürfen, nicht aber in den Städten.

Und was ist, wenn die Autos in den Städten weniger Unfälle machen als die Menschen?
Ich glaube nicht, dass das bald der Fall sein wird. In den nächsten 10 bis 15 Jahren werden automatische und autonome Autos nicht mit dem Stadtverkehr zurechtkommen, auch wenn Hersteller da anderes behaupten. Doch auch wenn das so wäre, glaube ich nicht, dass wir sie als Gesellschaft akzeptieren würden. Stellen Sie sich folgende Situation vor: Die Polizei klingelt an der Tür und sagt: «Ein autonomes Auto hat leider ihr Kind totgefahren, es konnten dafür aber zwei andere Kinder gerettet werden.»

Zur Person

Oliver Bendel ist Maschinen- und Roboterethiker und Professor am Institut für Wirtschaftsinformatik der Fachhochschule Nordwestschweiz. Eben ist von ihm das „Handbuch Maschinenethik“ im Springer-Verlag erschienen. Es ist das erste Buch dieser Art im deutschsprachigen Raum. Der 51-jährige Deutsche hat Philosophie und Informationswissenschaft studiert und an der HSG in Wirtschaftsinformatik doktoriert, lebt in Zürich und hat über 300 wissenschaftliche Artikel, Buchbeiträge und Bücher publiziert. © ZVG

Das ist natürlich scheusslich für die Eltern. Vielleicht aber hätte ein menschlicher Fahrer alle drei Kinder getötet. Wenn dank autonomen Autos weniger Menschen umkommen, müssten wir das doch als Gesellschaft wollen.
Ich glaube nicht. Selbst wenn man auf diese Weise die jährlichen Verkehrstoten einer Stadt wie Zürich von 10 auf 2 reduzieren könnte, denke ich nicht, dass wir das tun würden. Wir könnten es nicht akzeptieren, dass autonome Autos Menschen totfahren.

Wo werden wir Roboter akzeptieren?
Dort, wo wir ihnen keine Urteile über Leben und Tod zugestehen müssen. Im Pflegebereich etwa. Hier gibt es bereits Tests mit Robotern, die Wünsche von Bettlägerigen ausführen. Ihnen etwa eine Wasserflasche holen und öffnen. Wichtig ist, dass die Privatsphäre gewahrt bleibt. Ein Roboter in einem Pflegeheim muss deshalb selbstständig Türen öffnen und schliessen können.

Wollen wir wirklich von Robotern gepflegt werden?
Es gibt Studien, die zeigen, dass manche Menschen sich im Intimbereich lieber von einem Roboter waschen lassen würden als von einem Pflegenden, weil sie sich schämen. Sollte ich eines Tages pflegebedürftig sein, würde ich mich am liebsten von einem Roboter und einem Menschen betreuen lassen. Den Roboter kann ich hemmungslos herumscheuchen. Ich hätte so weniger das Gefühl, dass ich anderen Menschen zur Last falle. Eine emotionale Bindung möchte ich aber nicht zu ihm aufbauen, sondern nur zu einem Menschen.

epa05406533 (06/21) A woman reacts as she sees Tomomi Ota (R) pushing a cart loaded with her humanoid robot Pepper in Tokyo, Japan, 26 June 2016. Reaching 120cm in height and 28 kilograms in weight, Pepper does not enter in the category of ‘portable’ robot. But those characteristics don’t stop Tomomi Ota to take Pepper in a cart to stroll in her neighborhood, go shopping or even take the subway. In June 2014, when Pepper was presented for the first time by Japanese telecommunications and Internet corporation Softbank at a press event, Tomomi looked at the presentation via a live broadcast on Ustream. While some people were ‘scared’ or reluctant by the new humanoid robot, curiosity pushed her to apply to lottery sales for the first lot of 200 Pepper. She was lucky enough to acquire then a ‘Developer’s Pepper’, the first models of the robots which need to be programmed by the users. Pepper entered Tomomi’s home in November 2014 and was soon adopted by her parents to become a member of the family. Having degrees in media design and music, Tomomi had to learn programming and her efforts deepened her bonds with her new friend. Capable of reading human emotions and to adapt to his interlocutor, the robot created by Aldebaran Robotics and SoftBank Robotics is now used as customer service in stores and 1000 units are sold out in minutes after being on sale every month. Pepper is making his way to Japanese homes but few can enjoy so much outdoor like Tomomi’s one. Asked if she isn’t worried about damaging her robot friend during her activities, the 30-year-old said that she is taking extra care as she couldn’t imagine being separated two months from Pepper, the average time needed for a repair.  EPA/FRANCK ROBICHON PLEASE REFER TO THE ADVISORY NOTICE (epa05406529) FOR FULL PACKAGE TEXT

In Japan sind Roboter bereits teil der Gesellschaft. Sie pflegen und unterhalten Menschen. Und Menschen verlieben sich in sie. Bild: EPA/EPA

Inwiefern kann man überhaupt eine emotionale Bindung zu einem Roboter aufbauen?
Das geht schon. In Japan, wo Roboter vermehrt zur Unterhaltung und Betreuung von Kindern oder einsamen Menschen eingesetzt werden, gibt es zahlreiche Männer, die sich in ein Hologrammmädchen verliebt haben, das sie zuhause stehen haben. Wenn sie weg sind, schreibt es Textnachrichten wie: «Ich vermisse dich so.» Ich erachte es als gefährlich, wenn Robotern den Nutzern emotionale Nähe und Mitgefühl vorgaukeln. Das ist Täuschung.

«Man müsste die Prostituierten fragen, was sie denken, wenn sie von Robotern konkurrenziert werden.»

Mittlerweile kommunizieren viele Menschen mit einem Sprachassistenten wie Siri oder Alexa. Warum sind das eigentlich immer Frauenstimmen? Ist das sexistisch?
Es gibt Theorien, die besagen, dass Frauenstimmen vertrauensvoller sind und sie stärker von beiden Geschlechtern akzeptiert werden als Männerstimmen. Einige Kritiker behaupten, dass die Stimmen devot seien. Bei Siri und Alexa finde ich das nicht. Sie sollten aber stärker auf verbale Übergriffe reagieren. Wenn man zu Siri sagt: «Ich will dich vergewaltigen», kann es nicht sein, dass sie bloss erwidert: «Ich weiss nicht, was ich darauf antworten soll.»

Was ist mit Sexrobotern?
Zumindest Liebespuppen verbreiten sich derzeit in Bordellen – auch in der Schweiz. Die sehen lebensecht aus, verfügen aber über keine künstliche Intelligenz. Davor zieren sich die Bordellbesitzer wohl aus Angst, dass sich die Freier überwacht fühlen könnten. Ich habe mit einer Bordellbesitzerin in Deutschland Kontakt gehabt, die gesagt hat, dass die Puppen vor allem bei jüngeren, schüchternen Männern beliebt sind – insbesondere Mangamädchen und Elfen. Irgendwann wird es trotz aller Vorbehalte auch echte Roboter in den Bordellen geben.

Sehen Sie darin ein ethisches Problem?
Man müsste die Prostituierten fragen, was sie denken, wenn sie von Robotern konkurrenziert werden. Die Nutzung halte ich aber eigentlich für unproblematisch, wenn sie gelegentlich geschieht. Die Roboter sollten vielleicht nach einer gewissen Zeit eine Warnung aussprechen: «Überanstrenge dich nicht. Ich bin eine Maschine und kann immer, du nicht.» (aargauerzeitung.ch)

Kollege Roboter

Sexpuppen sollen selbst entscheiden, mit wem sie schlafen

Play Icon

Das könnte dich auch interessieren:

Glück vor Geld – Island treibt Wirtschaft der Zukunft voran

Link zum Artikel

Shaqiri erhält nach Traum-Comeback ein Sonderlob von Klopp – und eine Entschuldigung

Link zum Artikel

Ho ho ho! Der Bundesrat schnürt das Budgetpäckli: Dafür gibt er am meisten Geld aus

Link zum Artikel

Das beste Kamera-Handy gibt's jetzt in der Schweiz – wir haben es getestet

Link zum Artikel

Diese Schweizer Organisationen erhalten am meisten Spendengelder

Link zum Artikel

TikTok zensiert Videos von Menschen mit Behinderung – um sie vor Mobbing zu schützen 🤔

Link zum Artikel

Wegen «Wildwest-Modell» von Uber & Co. – warum bald Millionen in den AHV-Kassen fehlen

Link zum Artikel

Alphabet Inc. – das macht der Mega-Konzern hinter Google wirklich

Link zum Artikel
Alle Artikel anzeigen

Das könnte dich auch interessieren:

Glück vor Geld – Island treibt Wirtschaft der Zukunft voran

103
Link zum Artikel

Shaqiri erhält nach Traum-Comeback ein Sonderlob von Klopp – und eine Entschuldigung

22
Link zum Artikel

Ho ho ho! Der Bundesrat schnürt das Budgetpäckli: Dafür gibt er am meisten Geld aus

57
Link zum Artikel

Das beste Kamera-Handy gibt's jetzt in der Schweiz – wir haben es getestet

31
Link zum Artikel

Diese Schweizer Organisationen erhalten am meisten Spendengelder

8
Link zum Artikel

TikTok zensiert Videos von Menschen mit Behinderung – um sie vor Mobbing zu schützen 🤔

6
Link zum Artikel

Wegen «Wildwest-Modell» von Uber & Co. – warum bald Millionen in den AHV-Kassen fehlen

31
Link zum Artikel

Alphabet Inc. – das macht der Mega-Konzern hinter Google wirklich

0
Link zum Artikel

Das könnte dich auch interessieren:

Glück vor Geld – Island treibt Wirtschaft der Zukunft voran

103
Link zum Artikel

Shaqiri erhält nach Traum-Comeback ein Sonderlob von Klopp – und eine Entschuldigung

22
Link zum Artikel

Ho ho ho! Der Bundesrat schnürt das Budgetpäckli: Dafür gibt er am meisten Geld aus

57
Link zum Artikel

Das beste Kamera-Handy gibt's jetzt in der Schweiz – wir haben es getestet

31
Link zum Artikel

Diese Schweizer Organisationen erhalten am meisten Spendengelder

8
Link zum Artikel

TikTok zensiert Videos von Menschen mit Behinderung – um sie vor Mobbing zu schützen 🤔

6
Link zum Artikel

Wegen «Wildwest-Modell» von Uber & Co. – warum bald Millionen in den AHV-Kassen fehlen

31
Link zum Artikel

Alphabet Inc. – das macht der Mega-Konzern hinter Google wirklich

0
Link zum Artikel

Abonniere unseren Newsletter

22
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 48 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
22Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • Weisser Mann 03.12.2019 08:31
    Highlight Highlight Interessanter Artikel. Beim Terminator Thema geht's ja weniger darum, dass die Maschinen "böse" werden, sondern uns als Bedrohung erachten.

    Wie in einem früheren Artikel hier auf watson beschrieben. Die KI will muss seinen Job ausführen, der Mensch als unzureichende oder eingreifende Kraft steht ihm im Wege also muss er kurzerhand weg. Aber wenn man ihnen vorher Moral lehrt, lässt sich das Problem vielleicht ja umgehen.
  • §omboon §aleoff §amui & Bern 03.12.2019 08:28
    Highlight Highlight Wie Leichen aussehende Sexpuppen und Sexroboter sind doch nur eine weitere Perversität der heutigen abartigen Spaß Genuss und Verschwendung Gesellschaft!
    Das Trauerspiel von unrealen und kaputten Gesellschaftsformen zieht immer dilettantischere Kreise.
    🥶
  • Krise 03.12.2019 08:20
    Highlight Highlight "Wo werden wir Roboter akzeptieren? Da wo sie nicht über Leben und Tod entscheiden." Sagt er und hilft, Killerroboter zu bauen. 🤦
  • Krise 03.12.2019 08:16
    Highlight Highlight "es konnten dafür aber zwei andere Kinder gerettet werden." das Beispiel ist dämlich, so würde das die Polizei sowieso nicht mitteilen.
  • Noblesse 03.12.2019 08:00
    Highlight Highlight Alles, was wir Menschen erfinden, hat 2 Seiten. KI kann sehr nützen, aber eben auch schaden. KI gegen den Klimawandel wäre wunderbar. Da wär mir dann gleich, wenn man dereinst solche Puppen noch heiraten dürfte!!
  • Der müde Joe 03.12.2019 07:35
    Highlight Highlight «Überanstrenge dich nicht. Ich bin eine Maschine und kann immer, du nicht.»

    Ein Satz, den man schon heute in vielen Firmen, am Arbeitsplatz anbringen könnte.
    • dmark 03.12.2019 14:58
      Highlight Highlight Naja, ich habe auch schon viele Maschinen gesehen, welche von Menschen überanstrengt wurden und dann eben nicht mehr "immer konnten" ;)
  • L4c3 03.12.2019 06:36
    Highlight Highlight Beim selberfahrenden Auto könnte die Moral durch den Fahrer eingestellt werden. Ob ihm ein Kind wichtiger ist als eine alter Person. Oder ob sein eigenes Leben über allem steht. Sollte mit ein paar weniger Fragen einfach möglich sein, die individuelle Moral auf das autonome Fahrzeug zu übertragen.
  • DrDeath 03.12.2019 06:17
    Highlight Highlight Diese deontologische Ethik ist mir ein Gräuel. Roboter könnten entscheiden einen Menschen zu opfern, um zwei zu retten, also dürfen wir sie nicht einsetzen? Diese Einstellung ist feige und scheinheilig, weil ein Mensch in gleicher Situation immer egoistisch handeln würde. In der Regel sind solche Situationen zu hektisch, als dass der Mensch eine bewusste Entscheidung treffen kann. Eine Maschine könnte es, und gerade deshalb sollen wir darauf verzichten sie zu bauen? Das ist doch Wahnsinn! Nein, der einzig richtige Ansatz hier ist der utilitaristische, richte so wenig Schaden wie möglich an.
    • ingmarbergman 03.12.2019 08:47
      Highlight Highlight utilitarismus und „richte so wenig schaden wie möglich an“, sind ein widerspruch.

      Bevor du das nächste mal mit Fremdwörtern um dich wirfst, solltest du ein wenig Nachhilfe nehmen.
    • Spellbinder 03.12.2019 09:07
      Highlight Highlight Zuerst brauchen wir mal roboter die ohne menschliche eingriffe nicht in ne schulklasse reinfahren, weil ein paar sensoren denken es sei ein dekorativer fussgängerstreifen!

      Im moment sitzt immer noch ein mensch da, der sich sagt, nein da fährst du jetzt nicht rein. Sobald der wegfallen soll muss das auto nicht mehr 80-90 % richtig beurteilen, sondern beinahe 100 %.

      Und davon sind wir noch verdammt weit weg!
    • Friction 03.12.2019 12:30
      Highlight Highlight Auch der konsequentialistische Ansatz des Utilitarismus ist nicht die einzige Lösung. Meines Erachtens gilt es zwischen deontologischen und utilitaristischen Ansätzen immer wieder situativ abzuwägen.
      Der utilitaristische Ansatz hat in bestimmten Situation total Berechtigung, lässt in anderen aber viele wichtige Faktoren ausser acht...
    Weitere Antworten anzeigen
  • Bambusbjörn aka Planet Escoria 03.12.2019 05:53
    Highlight Highlight Kampfroboter.......
    Ein Thema dass mich innerlich zerreißt.
    Der Mechaniker ist begeistert von der neuen Technologie und den Möglichkeiten, welche diese Technologien bieten.
    Der Mensch ist angewidert. Die Politik sucht sich einfach wieder einen einfachen Weg.
    Klar, auf der einen Seite könnte man so bewaffnete Konflikte unblutiger gestalten, WENN alle die selben möglichen hätte.
    Aber da das definitiv NICHT der Fall sein wird, werden Kampfroboter gegen Mensch eingesetzt. Und das widerspreche für mich aller Menschlichkeit.
    • Kong 03.12.2019 07:28
      Highlight Highlight Sie halten sich dann ja an die Genfer Konvention. Ihre KI lernt das durch unsere eigene historische Umsetzung.
      .... moment mal... vielleicht doch nicht so perfekt 🤦‍♂️
    • EvilBetty 03.12.2019 09:01
      Highlight Highlight Und mit Google Stadia trainieren Zocker rund um die Welt die KI die dann in Boston Dynamics Robotern eingesetz wird...
    • Bambusbjörn aka Planet Escoria 03.12.2019 09:21
      Highlight Highlight @Kong
      Ich würde diese Diskussion sehr gerne mit dir vertiefen.
      Aber ich bin innerlich zu zerrissen und die schlaflose Woche hat mir zu sehr zugesetzt.
      Hoffentlich gibt es no jemanden, der sich beteiligen würde. Das Thema ist hochbrisant und extrem interessant.

Radikal religiös: Wie Freikirchler ihre Kinder züchtigen, weil die Bibel es verlange

Der Kriminologe Christian Pfeiffer hat Untersuchungen angestellt und erstaunliche Resultate zur Prügelstrafe von Gläubigen erhalten.

Jede Religion und jede Glaubensgemeinschaft trägt im Kern das Sektenhafte in sich. Schliesslich geht es um die letzten Dinge und die göttliche Autorität. Also um den höheren Sinn, um Transzendenz und Metaphysik. Und um die Deutungshoheit in diesen existentiellen, religiösen und spirituellen Belangen: um alles oder nichts.

Liberale Gläubige, die ein kritisches Bewusstsein bewahrt haben, kennen die Gefahren und lassen sich höchstens partiell vereinnahmen. Anders radikale Gläubige, wie sie in …

Artikel lesen
Link zum Artikel