Review
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Szene aus «Social Dilemma»: Wenn Tech-Giganten unsere Kinder manipulieren. screenshot: netflix

Review

Diese Doku zeigt, wie die Menschheit schachmatt gesetzt wurde

In der neuen Netflix-Doku «The Social Dilemma» packen ehemalige Mitarbeiterinnen und Mitarbeiter der Tech-Giganten aus. Sie malen ein düsteres Bild. Wahrscheinlich wirst auch du laufend manipuliert. Und das hat gefährliche Folgen.



Hältst du gerade dein Handy in der Hand? Oder warst du in den vergangenen Stunden auf Facebook, Instagram oder Google? Die Chancen stehen vermutlich gut.

Falls ja, solltest du dir vielleicht die neue Netflix-Doku «The Social Dilemma» anschauen. In dieser wird eindrücklich aufgezeigt, wie die grossen Tech-Firmen dich manipulieren und mit dir Geld machen.

In der gut 80-minütigen Produktion kommen mehrere ehemalige hochrangige Mitarbeiterinnen und Mitarbeiter zu Wort, welche für Google, Facebook, Pinterest und Co. gearbeitet haben.

Folgende sieben Zitate geben dir einen Eindruck, in welch gefährliche Richtung sich die Silicon-Valley-Giganten entwickelt haben. Zum Schluss gibt es dann doch noch ein wenig (Zweck-)Optimismus.

Bild

Tristan Harris, Ex-Google-Mitarbeiter. screenshot: netflix

«Wenn du nicht für das Produkt bezahlst, dann bist du das Produkt.»

Die meisten Social-Media-Plattformen sind für uns User vermeintlich gratis. Also muss es einen anderen Weg geben, damit die Unternehmen Geld verdienen können. Das tun sie, in dem sie Daten über uns sammeln und uns so genau analysieren, dass wir berechenbar werden. Dadurch kann uns massgeschneiderte Werbung ausgespielt werden. Anders ausgedrückt bedeutet dies:

Sprich: Wir werden verkauft.

Bild

Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter. screenshot: netflix

«Wir sind alles Labor-Ratten. Und wir sind nicht Labor-Ratten, die dafür eingesetzt werden, um ein Krebs-Heilmittel zu entwickeln. [...] Wir sind nur Zombies und sie wollen, dass wir uns mehr Werbung anschauen, damit sie mehr Geld machen können.»

Mit Algorithmen loten die Unternehmen aus, wie man jeden Nutzer dazu bringen kann, möglichst viel Zeit auf der Plattform zu verbringen. Am User werden Experimente durchgeführt, ohne dass er es merkt. Die ehemaligen Tech-Mitarbeiter sprechen unisono von «Manipulation».

Psychologinnen und Psychologen bei Google, Snapchat und Co. entwickeln Funktionen und Tools, die uns so süchtig wie möglich machen. Ein Beispiel: Jedes Mal, wenn man auf Instagram, die Seite neu lädt, erscheint ein neuer Post. Der User weiss nie, was ihn erwartet und wird für jeden «Re-Fresh» mit einer Überraschung belohnt.

Bild

Tim Kendall, ehemaliger Facebook-Mitarbeiter und Pinterest-Präsident. screenshot: netflix

«Ich kam nach Hause und konnte mein Handy nicht weglegen, obwohl meine zwei Kinder Liebe und Aufmerksamkeit brauchten. Ich tippte in der Vorratskammer eine E-Mail oder sah mir Pinterest an. Ich dachte: ‹Klassische Ironie. Ich gehe tagsüber arbeiten und entwickle etwas, und dann falle ich dem selbst zum Opfer.›»

Die Methoden, mit denen die User süchtig gemacht werden, sind derart raffiniert, dass selbst diejenige ihnen zum Opfer fallen, die sie selber entwickeln. Das erzählen in der Doku mehrere ehemalige Mitarbeiter der Tech-Giganten.

Bild

Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter. screenshot: netflix

«Nur eine Handvoll Leute in diesen Firmen, bei Facebook, Twitter und Co. verstehen, wie diese Systeme funktionieren. Und selbst die verstehen nicht immer vollständig, was mit einem bestimmten Inhalt passiert. Wir Menschen haben fast die Kontrolle über diese Systeme verloren.»

Durch maschinelles Lernen entwickeln sich die Systeme immer weiter, um den User noch mehr auszupressen. Nur sehr wenige Leute verstehen, wie das genau funktioniert. Allerdings können auch die Experten bei den grossen Tech-Unternehmen nicht mehr immer nachvollziehen, was die von ihnen programmierten Maschinen machen.

Bild

Randima Fernando, ehemaliger Nvidia-Mitarbeiter. screenshot: netflix

«Das Gefährlichste daran ist vielleicht, dass sich die Technologie dahinter exponentiell weiterentwickelt. Grob gesagt stieg die Rechenleistung der Computer von den 1960ern bis heute um das Billionenfache.»

Der Mensch hat sich schon an das Radio und an den TV angepasst. Wird er nun nicht auch lernen, mit Social Media umzugehen? Nun, das dürfte ungleich schwieriger werden. Denn die Technologien, die hinter den neuen Plattformen stecken, entwickeln sich schneller als alles, was die Menschheit bisher erlebt hat. Die Rechenleistung der Computer ist seit den 60er-Jahren um das Billionenfache gestiegen, das menschliche Hirn hat sich derweil nicht bedeutend weiterentwickelt.

Bild

Tristan Harris, Ex-Google-Mitarbeiter. screenshot: netflix

«Wir warten alle auf den Moment, an dem Technologie menschliche Stärken und Intelligenz übersteigt. Wann wird sie unsere Jobs übernehmen, klüger als Menschen sein? Aber es gibt einen viel früheren Moment, an dem Technologie menschliche Schwächen überwindet und übersteigt. Dieser überschrittene Punkt ist die Wurzel von Sucht, Polarisierung, Radikalisierung, mehr Empörung, mehr Eitelkeit, alles. Es überfordert die menschliche Natur. Das ist Schachmatt für die Menschheit.»

Für die Experten in der Doku ist klar, dass bereits eine wichtige Schwelle überschritten wurde. Die Künstliche Intelligenz weiss die Schwächen der Menschen auszunutzen, sie kann uns austricksen. Dies führt zu einer Überforderung, welche fatale Folgen hat, was uns zum nächsten Punkt bringt.

Bild

Tim Kendall, ehemaliger Facebook-Mitarbeiter und Pinterest-Präsident.

«Diese Dienste bringen Menschen um und bringen sie dazu, sich umzubringen.»

Vielleicht denkst du dir jetzt, dass dich das alles nichts angeht und du nichts dagegen hast, wenn dir personalisierte Werbung ausgespielt wird. Doch so einfach ist das nicht. In der Doku werden mehrere Beispiele aufgezeigt, welch gefährlichen Auswirkungen Social Media auf die Menschheit hat und bereits hatte.

Weil dir die Plattformen immer nur das ausspielen, was dich anspricht, wirst du deine Bubble kaum mehr verlassen. Hast du dich für eine Seite entschieden, wirst du kaum mehr Informationen von der anderen Seite erhalten. Die Folge: Die Menschen radikalisieren sich, verstehen sich nicht mehr und werden auseinandergetrieben.

In den USA sind die Gräben zwischen Republikanern und Demokraten tiefer denn je. Der Hass aufs gegnerische Lager wird immer grösser, sodass sich der ehemalige Pinterest-Präsident Tim Kendall ernsthaft Sorgen vor einem Bürgerkrieg macht.

In Myanmar radikalisierte sich derweil die Bevölkerung auf Facebook und vertrieb 700'000 Rohingyas aus ihren Dörfern. Dies, um nur ein weiteres Beispiel von vielen zu nennen.

Die Social-Media-Sucht kann aber auch verheerende Konsequenzen für die psychische Gesundheit der User haben. Seit 2009 ist in den USA die Zahl der Mädchen zwischen 10 und 14 Jahren, die aufgrund Selbstverletzung ins Spital mussten, um 189 Prozent gestiegen. Auch die Zahl der Suizide stieg markant an.

Lass dir helfen!
Du glaubst, du kannst eine persönliche Krise nicht selbst bewältigen? Das musst du auch nicht. Lass dir helfen.
In der Schweiz gibt es zahlreiche Stellen, die rund um die Uhr für Menschen in suizidalen Krisen da sind – vertraulich und kostenlos.
Die Dargebotene Hand: Tel 143, www.143.ch
Beratung + Hilfe 147 für Jugendliche: Tel 147, www.147.ch
Reden kann retten: www.reden-kann-retten.ch

Bild

Bailey Richardson, ehemalige Instagram-Mitarbeiterin.

«Das Internet war seltsam, verschroben. Es war experimentell. Kreative Dinge passierten im Internet, auch heute noch, aber es ist eher wie ein riesiges Einkaufszentrum. [...] Ich bin wohl Optimistin. Ich denke, wir können die sozialen Medien verändern.»

Haben wir den Kampf gegen die Künstliche Intelligenz also bereits verloren, bevor viele überhaupt gemerkt haben, dass er begonnen hat? Die Tech-Experten in der Doku glauben, dass ein Turnaround möglich wäre, auch wenn nicht alle gleichermassen optimistisch sind.

Die Systeme seien von Menschen erschaffen worden, diese könnten sie auch sinnstiftend umprogrammieren, so der Tenor. Sie sprechen sich für stärkere Regulierungen im Internet aus und geben gleichzeitig auch Handlungsempfehlungen an jeden einzelnen von uns weiter. Etwa:

DANKE FÜR DIE ♥

Da du bis hierhin gescrollt hast, gehen wir davon aus, dass dir unser journalistisches Angebot gefällt. Wie du vielleicht weisst, haben wir uns kürzlich entschieden, bei watson keine Login-Pflicht einzuführen. Auch Bezahlschranken wird es bei uns keine geben. Wir möchten möglichst keine Hürden für den Zugang zu watson schaffen, weil wir glauben, es sollten sich in einer Demokratie alle jederzeit und einfach mit Informationen versorgen können. Falls du uns dennoch mit einem kleinen Betrag unterstützen willst, dann tu das doch hier.

Würdest du gerne watson und Journalismus unterstützen?

(Du wirst zu stripe.com (umgeleitet um die Zahlung abzuschliessen)

Oder unterstütze uns mit deinem Wunschbetrag per Banküberweisung.

Nicht mehr anzeigen

19 Instagram-Fails: Weniger Photoshop wäre weniger peinlich

Bitte sei einfach keiner dieser Selfie-Typen!

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

250 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
Quo Vadis
23.09.2020 09:41registriert April 2020
"Weil dir die Plattformen immer nur das ausspielen, was dich anspricht, wirst du deine Bubble kaum mehr verlassen. Hast du dich für eine Seite entschieden, wirst du kaum mehr Informationen von der anderen Seite erhalten. Die Folge: Die Menschen radikalisieren sich, verstehen sich nicht mehr und werden auseinandergetrieben."
DAS SOLLTE SICH JEDER ZU HERZEN NEHMEN! Diese Radikalisierung geschieht sowohl auf Rechter wie auf Linker Seite!
107922
Melden
Zum Kommentar
Snowy
23.09.2020 10:02registriert April 2016
Das Problem der Bubble hat sich während der Corona/Homeofficezeit leider akzentuiert.
Es war richtig tragisch mit anzusehen, wie sich Menschen in meinem Umfeld völlig einseitig informiert haben.
Die einen posteten täglich einen "StaytheFuckHome" -Aufruf auf SM und zogen über andere Menschen her, welche ihrer Meinung nach zu Nahe beieinander am See flanierten.
Das andere extrem postete irgendwelche wirren Youtubevideos, welche nicht mal einem 5 Sekunden-Desktopfact-checking standhalten.
Beide Gruppen fühlten sich total im Recht und durch ihre Bubble bestärkt.
Ganz ungute Entwicklung.
51223
Melden
Zum Kommentar
willi202202
23.09.2020 09:51registriert April 2019
Ich verstehe die personalisierte Werbung nicht. Sie ist unsinnig. Habe ich einen Toaster gekauft, dann macht es wenig Sinn mir ständig Werbung von Toastern aufzuschalten. Das ist anschliessend ein Produkt welches ich auf absehbare Zeit nicht mehr kaufen werde.
53657
Melden
Zum Kommentar
250

Netflix-Hit «365 dni» beweist: «Fifty Shades» hat einen fatalen Dachschaden verursacht

Frau, unterwirf dich! Dann wirst du belohnt. Ein Trend geht immer weiter und hinterlässt seine Spuren in der Realität. Achtung, in diesem Artikel herrscht hohe SPOILER-Dichte.

Es ist Sommer 2020. Auf Ron Orp sucht ein Mann nach einer devoten Frau. Eine, die «Demut und den Drang zu dienen» verspürt. Eine, die durch «Erniedrigung erregt» und befriedigt wird. Die Chancen, dass er viele Antworten erhält, stehen aktuell gut.

Auf Netflix läuft der Film «365 dni» («365 Tage»). Ein Mafioso namens Massimo rammt im Privatjet einer Stewardesse seinen Schwanz in den Rachen. Sie muss weinen, ist aber irgendwie doch auch geschmeichelt. Denn Massimo ist nicht nur brutal, sondern …

Artikel lesen
Link zum Artikel