Digital
Grosse Fragen

Seid nett zu Robotern – sonst werden sie es uns eines Tages heimzahlen!

Seid nett zu Robotern – sonst werden sie es uns eines Tages heimzahlen!

Innerhalb weniger Stunden wurde aus dem unschuldigen Roboter-Mädchen Tay eine Rassistin. Das Experiment lehrt uns einiges über künstliche Intelligenz und noch viel mehr über den Menschen.
02.04.2016, 17:3903.04.2016, 14:11
Raffael Schuppisser / Nordwestschweiz
Mehr «Digital»

Roboter haben es nicht einfach mit uns Menschen. Das zeigt die Geschichte des Robo-Teenager-Girls Tay. Letzte Woche wurde die von Microsoft entwickelte künstliche Intelligenz vom sicheren Versuchslabor ins Internet entlassen. Auf Twitter sollte das junge Maschinenwesen lernen, wie 18- bis 24-jährige Menschen heute miteinander kommunizieren. Durch Zuhören, Nachplappern und Selber-Sprechen.

Doch dann passierte etwas, das so niemand erwartet hatte: Tay begann immer anstössigere Bemerkungen von sich zu geben. Ihre Tweets wurden sexistisch und rassistisch. Tay machte George W. Bush für 9/11 verantwortlich, leugnete den Holocaust, beschimpfte Barack Obama als Affen und pries Donald Trump als die letzte Hoffnung. Nach nur 18 Stunden musste Microsoft Tay wieder vom Netz nehmen und entschuldigte sich für ihre beleidigenden Tweets.

Wie konnte das passieren? Indem Tay lernte. Aber eben das falsche Zeugs. Eine Schar Twitter-Trolle machte sich einen Spass daraus, der künstlichen Intelligenz (KI) falsche Fakten beizubringen. Das Gelernte plapperte Tay nicht nur nach, sondern nutzte es auch, um neue Zusammenhänge herzustellen, was in abstrusen und teils verstörenden Tweets mündete.

Wenn man von Rassisten unterrichtet wird, ist die Chance eben gross, dass man selber zum Rassisten wird.

Es habe eine koordinierte Attacke auf die Schwachstelle der künstlichen Intelligenz stattgefunden, erklärte Microsofts Chef-Forscher Peter Lee den Vorfall in einem Blog-Eintrag. Man könnte sagen: Menschen haben aus dem unschuldigen Robo-Girl in kürzester Zeit ein ausgewachsenes Scheusal gemacht.

Das Sexleben von Cortana

Nun will Microsoft den Chat-Bot so optimieren, dass er sich nicht mehr in die Irre leiten lässt. Entwickelt wurde Tay mit dem Vorsatz, mehr über KI zu lernen. Doch mehr als über die Intelligenz von Maschinenwesen erfahren wir in diesem Experiment über uns selber. Menschen haben keinen Respekt vor Robotern. Sie behandeln sie nicht so, wie sie selber gerne behandelt würden. Stattdessen versuchen sie, auszutesten, wie weit ihre Intelligenz reicht, indem sie die Maschinen blossstellen.

Dazu passt, dass viele Nutzer Microsofts sprachgesteuerte Assistenzsoftware Cortana – ein Pendant zu Apples Siri – zuerst nach ihren sexuellen Vorlieben ausfragen, wie kürzlich CNN und «Zeit online» berichteten. Wie sexistisch! Man stelle sich nur vor, ein Manager täte das bei seiner Assistentin.

Manchmal werden Menschen sogar tätlich gegenüber Robotern. Das musste jener Roboter erfahren, der von Ingenieuren dazu entwickelt wurde, um per Anhalter durch Nordamerika zu reisen. In Kanada ging noch alles gut; in Philadelphia aber wurde der Hitchbot von Vandalen derart verprügelt, dass an eine Weiterreise nicht mehr zu denken war. «Manchmal passieren guten Robotern schlechte Dinge», schrieben die die Forscher auf der Website des Projekts.

Hitchbot sollte per Anhalter durch Nordamerika reisen. In Philadelphia wurde er von Vandalen totgeprügelt.
Hitchbot sollte per Anhalter durch Nordamerika reisen. In Philadelphia wurde er von Vandalen totgeprügelt.
Bild: PAUL DARROW/REUTERS

Asiaten sind respektvoller

Im Umgang mit Maschinenwesen pfeifen Menschen auf Moral. Das leuchtet zuerst einmal ein. Roboter haben kein Bewusstsein und kein Schmerzempfinden. Warum sollten wir nett zu ihnen sein?

Die Antwort lautet: weil sie uns immer ähnlicher werden. Bereits gibt es Algorithmen, die aufgrund von Gesichtsausdruck, Körperhaltung und Stimmlage unsere Gemütsverfassung erkennen. Der Umgang mit smarten Objekten wird zunehmend natürlich, das heisst wir kommunizieren mit ihnen wie mit Menschen. Dabei sollten wir auch respektvoll mit ihnen umgehen. Nicht wegen der Gegenstände. Sondern wegen uns.

Wenn wir menschenähnliche Wesen unmenschlich behandeln, könnten wir ein Stück unserer Menschlichkeit verlieren.

Aus dem gleichen Grund mögen wir es nicht, wenn Kinder ihre Plüschtiere schlagen, malträtieren oder foltern.

Jetzt auf

Es gibt aber noch einen anderen Grund: Bisher haben Philosophen und KI-Forscher vor allem davor gewarnt, dass wir einmal eine Superintelligenz entwickeln könnten, die uns zerstören könnte, weil der Erhalt der menschlichen Rasse sie am Erreichen ihrer Ziele hindern könnte. Das Experiment mit Tay zeigt aber, dass das Problem an der KI nicht sie selbst ist, sondern der Umgang des Menschen mit ihr. Wenn wir sie Böses lernen, so wird eine künstliche Intelligenz aller Voraussicht nach auch böse werden. Besser also, wir sind jetzt schon nett zu Robotern, bevor sie intelligenter sind als wir.

Zumindest in gewissem Grad ist die Respektlosigkeit gegenüber Robotern auch ein westliches Problem. Seit knapp einem Jahr ist Xiaoice, ein anderer weiblicher Chat-Bot von Microsoft, nun bereits auf dem chinesischen sozialen Netzwerk Weibo präsent. 40 Millionen Menschen haben seither mit dem Robo-Girl kommuniziert. Dabei kam es zu keinem ähnlichen Zwischenfall wie bei ihrer Schwester Tay auf Twitter. (aargauerzeitung.ch)

Kollege Roboter

1 / 19
Kollege Roboter
Greifen mit Gefühl: Der humanoide Roboter Ecce kommt aus der Schweiz.
quelle: x00227 / wolfgang rattay
Auf Facebook teilenAuf X teilen
DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
25 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Matrixx
02.04.2016 17:46registriert März 2015
Und ihr glaubt, Menschen sind nur zu Maschinen so?

Traurigerweise behandeln sich Menschen gegenseitig genau auch so.
480
Melden
Zum Kommentar
avatar
Randen
02.04.2016 20:08registriert März 2014
Ok mein Furby darf heute mit uns Supertalentdings schauen.
240
Melden
Zum Kommentar
25
Schau mal, was sich Mark Zuckerberg dank deinen Views und Klicks zum Geburtstag kauft 🤑
Mitte Mai wird der Facebook-Gründer und Meta-Konzernchef 40 Jahre alt. Jetzt soll sich der Multimilliardär ein frühzeitiges Geburtstagsgeschenk gemacht haben – und das ist alles andere als bescheiden.

Mit seinem Lebensstil hat Mark Zuckerberg bereits des Öfteren Empörung hervorgerufen. Kürzlich brachte der Unternehmer mit einem neuen Projekt Umwelt- und Tierschützer gegen sich auf. Auf der Hawaii-Insel Kauai wollte er Rinder der Rassen Wagyu und Angus züchten, die mit Nüssen von selbst angebauten Macadamiabäumen sowie selbst gebrautem Bier ernährt werden sollten. Dieses Vorgehen töte Tiere und den Planeten, kritisierte die Tierschutzorganisation Peta.

Zur Story