Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.

Seid nett zu Robotern – sonst werden sie es uns eines Tages heimzahlen!

Innerhalb weniger Stunden wurde aus dem unschuldigen Roboter-Mädchen Tay eine Rassistin. Das Experiment lehrt uns einiges über künstliche Intelligenz und noch viel mehr über den Menschen.

Raffael Schuppisser / Nordwestschweiz



Roboter haben es nicht einfach mit uns Menschen. Das zeigt die Geschichte des Robo-Teenager-Girls Tay. Letzte Woche wurde die von Microsoft entwickelte künstliche Intelligenz vom sicheren Versuchslabor ins Internet entlassen. Auf Twitter sollte das junge Maschinenwesen lernen, wie 18- bis 24-jährige Menschen heute miteinander kommunizieren. Durch Zuhören, Nachplappern und Selber-Sprechen.

Doch dann passierte etwas, das so niemand erwartet hatte: Tay begann immer anstössigere Bemerkungen von sich zu geben. Ihre Tweets wurden sexistisch und rassistisch. Tay machte George W. Bush für 9/11 verantwortlich, leugnete den Holocaust, beschimpfte Barack Obama als Affen und pries Donald Trump als die letzte Hoffnung. Nach nur 18 Stunden musste Microsoft Tay wieder vom Netz nehmen und entschuldigte sich für ihre beleidigenden Tweets.

Wie konnte das passieren? Indem Tay lernte. Aber eben das falsche Zeugs. Eine Schar Twitter-Trolle machte sich einen Spass daraus, der künstlichen Intelligenz (KI) falsche Fakten beizubringen. Das Gelernte plapperte Tay nicht nur nach, sondern nutzte es auch, um neue Zusammenhänge herzustellen, was in abstrusen und teils verstörenden Tweets mündete.

Wenn man von Rassisten unterrichtet wird, ist die Chance eben gross, dass man selber zum Rassisten wird.

Es habe eine koordinierte Attacke auf die Schwachstelle der künstlichen Intelligenz stattgefunden, erklärte Microsofts Chef-Forscher Peter Lee den Vorfall in einem Blog-Eintrag. Man könnte sagen: Menschen haben aus dem unschuldigen Robo-Girl in kürzester Zeit ein ausgewachsenes Scheusal gemacht.

Das Sexleben von Cortana

Nun will Microsoft den Chat-Bot so optimieren, dass er sich nicht mehr in die Irre leiten lässt. Entwickelt wurde Tay mit dem Vorsatz, mehr über KI zu lernen. Doch mehr als über die Intelligenz von Maschinenwesen erfahren wir in diesem Experiment über uns selber. Menschen haben keinen Respekt vor Robotern. Sie behandeln sie nicht so, wie sie selber gerne behandelt würden. Stattdessen versuchen sie, auszutesten, wie weit ihre Intelligenz reicht, indem sie die Maschinen blossstellen.

Dazu passt, dass viele Nutzer Microsofts sprachgesteuerte Assistenzsoftware Cortana – ein Pendant zu Apples Siri – zuerst nach ihren sexuellen Vorlieben ausfragen, wie kürzlich CNN und «Zeit online» berichteten. Wie sexistisch! Man stelle sich nur vor, ein Manager täte das bei seiner Assistentin.

Manchmal werden Menschen sogar tätlich gegenüber Robotern. Das musste jener Roboter erfahren, der von Ingenieuren dazu entwickelt wurde, um per Anhalter durch Nordamerika zu reisen. In Kanada ging noch alles gut; in Philadelphia aber wurde der Hitchbot von Vandalen derart verprügelt, dass an eine Weiterreise nicht mehr zu denken war. «Manchmal passieren guten Robotern schlechte Dinge», schrieben die die Forscher auf der Website des Projekts.

The anthropomorphic robot named hitchBOT sits on the shoulder of Highway 102 to begin its 6000 kilometer cross country journey outside of Halifax, Nova Scotia, July 27, 2014. The hitch hiking robot is part of a social experiment to see if drivers will pick up and drop off the robot in one piece to an art gallery in Victoria, British Columbia.  REUTERS/Paul Darrow (CANADA - Tags: SOCIETY SCIENCE TECHNOLOGY TPX IMAGES OF THE DAY)

Hitchbot sollte per Anhalter durch Nordamerika reisen. In Philadelphia wurde er von Vandalen totgeprügelt.
Bild: PAUL DARROW/REUTERS

Asiaten sind respektvoller

Im Umgang mit Maschinenwesen pfeifen Menschen auf Moral. Das leuchtet zuerst einmal ein. Roboter haben kein Bewusstsein und kein Schmerzempfinden. Warum sollten wir nett zu ihnen sein?

Die Antwort lautet: weil sie uns immer ähnlicher werden. Bereits gibt es Algorithmen, die aufgrund von Gesichtsausdruck, Körperhaltung und Stimmlage unsere Gemütsverfassung erkennen. Der Umgang mit smarten Objekten wird zunehmend natürlich, das heisst wir kommunizieren mit ihnen wie mit Menschen. Dabei sollten wir auch respektvoll mit ihnen umgehen. Nicht wegen der Gegenstände. Sondern wegen uns.

Wenn wir menschenähnliche Wesen unmenschlich behandeln, könnten wir ein Stück unserer Menschlichkeit verlieren.

Aus dem gleichen Grund mögen wir es nicht, wenn Kinder ihre Plüschtiere schlagen, malträtieren oder foltern.

Es gibt aber noch einen anderen Grund: Bisher haben Philosophen und KI-Forscher vor allem davor gewarnt, dass wir einmal eine Superintelligenz entwickeln könnten, die uns zerstören könnte, weil der Erhalt der menschlichen Rasse sie am Erreichen ihrer Ziele hindern könnte. Das Experiment mit Tay zeigt aber, dass das Problem an der KI nicht sie selbst ist, sondern der Umgang des Menschen mit ihr. Wenn wir sie Böses lernen, so wird eine künstliche Intelligenz aller Voraussicht nach auch böse werden. Besser also, wir sind jetzt schon nett zu Robotern, bevor sie intelligenter sind als wir.

Zumindest in gewissem Grad ist die Respektlosigkeit gegenüber Robotern auch ein westliches Problem. Seit knapp einem Jahr ist Xiaoice, ein anderer weiblicher Chat-Bot von Microsoft, nun bereits auf dem chinesischen sozialen Netzwerk Weibo präsent. 40 Millionen Menschen haben seither mit dem Robo-Girl kommuniziert. Dabei kam es zu keinem ähnlichen Zwischenfall wie bei ihrer Schwester Tay auf Twitter. (aargauerzeitung.ch)

Kollege Roboter

13 Dinge, die jeder Mac- und Windows-Nutzer über Microsofts neuen Laptop-Killer wissen muss

Link zum Artikel

1 Shopping-Mall, 14 Restaurants und 600 Kaffee-Automaten: Mein Rundgang durch «Microsoft City»

Link zum Artikel

10 überraschend einfache Tricks, die Windows so viel besser machen

Link zum Artikel

Verdammt, jetzt macht endlich dieses Windows-10-Upgrade!

Link zum Artikel

Was jeder Mac- und Windows-Nutzer über Microsofts neuen Laptop-Killer wissen muss, in 11 Zitaten erzählt

Link zum Artikel

14 Dinge, die jeder Mac- und Windows-Nutzer über Microsofts neuen Laptop-Killer wissen muss

Link zum Artikel

Das sind die 10 gefährlichsten Programme, die du auf deinem Windows-PC oder Mac haben kannst

Link zum Artikel

Microsofts Hologramm-Brille ist das abgefahrenste Gadget, das du je gesehen hast

Link zum Artikel

13 Dinge, die jeder Mac- und Windows-Nutzer über Microsofts neuen Laptop-Killer wissen muss

Link zum Artikel

Alles, was du über die neuen Microsoft-Gadgets wissen musst – in 21 Tweets erzählt

Link zum Artikel

Die 8 besten neuen Features von Windows 10 in animierten Gifs erklärt

Link zum Artikel

Apples iPhone 6 gegen Nokias Lumia 830: Welches Handy schiesst die besseren Fotos? Mach den Blindtest

Link zum Artikel

11 Gründe, warum dieses völlig unterschätzte Handy grossartig ist

Link zum Artikel
Alle Artikel anzeigen
DANKE FÜR DIE ♥
Würdest du gerne watson und Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
Oder unterstütze uns per Banküberweisung.

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

Nach den Studenten twinten nun auch die Senioren – Bezahl-App hat über 3 Millionen Nutzer

Die Twint-App wird immer beliebter. Das gestiegene Bedürfnis nach kontaktlosen Zahlungen an der Ladenkasse und der coronabedingte Online-Boom verhalfen dem Schweizer Bezahldienst nochmals zu einem Wachstumsschub. Das zuletzt auch bei den über 60-Jährigen, sagte CEO Markus Kilb im Interview mit der Nachrichtenagentur AWP.

Twint berichtete unlängst von einer starken Zunahme der Nutzer und Transaktionen – auch wegen des Corona-Lockdowns. Die Bezahl-App konnte rund 45'000 neue User pro Woche …

Artikel lesen
Link zum Artikel