Leben
Review

The Social Dilemma: Neue Netflix-Doku zeigt, wie wir manipuliert werden

Szene aus «Social Dilemma»: Wenn Tech-Giganten unsere Kinder manipulieren.
Szene aus «Social Dilemma»: Wenn Tech-Giganten unsere Kinder manipulieren.screenshot: netflix
Review

Diese Doku zeigt, wie die Menschheit schachmatt gesetzt wurde

In der neuen Netflix-Doku «The Social Dilemma» packen ehemalige Mitarbeiterinnen und Mitarbeiter der Tech-Giganten aus. Sie malen ein düsteres Bild. Wahrscheinlich wirst auch du laufend manipuliert. Und das hat gefährliche Folgen.
23.09.2020, 09:3324.09.2020, 10:13
Corsin Manser
Folge mir
Mehr «Leben»

Hältst du gerade dein Handy in der Hand? Oder warst du in den vergangenen Stunden auf Facebook, Instagram oder Google? Die Chancen stehen vermutlich gut.

Falls ja, solltest du dir vielleicht die neue Netflix-Doku «The Social Dilemma» anschauen. In dieser wird eindrücklich aufgezeigt, wie die grossen Tech-Firmen dich manipulieren und mit dir Geld machen.

In der gut 80-minütigen Produktion kommen mehrere ehemalige hochrangige Mitarbeiterinnen und Mitarbeiter zu Wort, welche für Google, Facebook, Pinterest und Co. gearbeitet haben.

Folgende sieben Zitate geben dir einen Eindruck, in welch gefährliche Richtung sich die Silicon-Valley-Giganten entwickelt haben. Zum Schluss gibt es dann doch noch ein wenig (Zweck-)Optimismus.

Tristan Harris, Ex-Google-Mitarbeiter.
Tristan Harris, Ex-Google-Mitarbeiter.screenshot: netflix
«Wenn du nicht für das Produkt bezahlst, dann bist du das Produkt.»

Die meisten Social-Media-Plattformen sind für uns User vermeintlich gratis. Also muss es einen anderen Weg geben, damit die Unternehmen Geld verdienen können. Das tun sie, in dem sie Daten über uns sammeln und uns so genau analysieren, dass wir berechenbar werden. Dadurch kann uns massgeschneiderte Werbung ausgespielt werden. Anders ausgedrückt bedeutet dies:

  • Facebook ist der Verkäufer.
  • Die Firma, die Werbung machen will, ist der Kunde.
  • Der User ist das Produkt.

Sprich: Wir werden verkauft.

Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter.
Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter.screenshot: netflix
«Wir sind alles Labor-Ratten. Und wir sind nicht Labor-Ratten, die dafür eingesetzt werden, um ein Krebs-Heilmittel zu entwickeln. [...] Wir sind nur Zombies und sie wollen, dass wir uns mehr Werbung anschauen, damit sie mehr Geld machen können.»

Mit Algorithmen loten die Unternehmen aus, wie man jeden Nutzer dazu bringen kann, möglichst viel Zeit auf der Plattform zu verbringen. Am User werden Experimente durchgeführt, ohne dass er es merkt. Die ehemaligen Tech-Mitarbeiter sprechen unisono von «Manipulation».

Psychologinnen und Psychologen bei Google, Snapchat und Co. entwickeln Funktionen und Tools, die uns so süchtig wie möglich machen. Ein Beispiel: Jedes Mal, wenn man auf Instagram, die Seite neu lädt, erscheint ein neuer Post. Der User weiss nie, was ihn erwartet und wird für jeden «Re-Fresh» mit einer Überraschung belohnt.

Tim Kendall, ehemaliger Facebook-Mitarbeiter und Pinterest-Präsident.
Tim Kendall, ehemaliger Facebook-Mitarbeiter und Pinterest-Präsident.screenshot: netflix
«Ich kam nach Hause und konnte mein Handy nicht weglegen, obwohl meine zwei Kinder Liebe und Aufmerksamkeit brauchten. Ich tippte in der Vorratskammer eine E-Mail oder sah mir Pinterest an. Ich dachte: ‹Klassische Ironie. Ich gehe tagsüber arbeiten und entwickle etwas, und dann falle ich dem selbst zum Opfer.›»

Die Methoden, mit denen die User süchtig gemacht werden, sind derart raffiniert, dass selbst diejenige ihnen zum Opfer fallen, die sie selber entwickeln. Das erzählen in der Doku mehrere ehemalige Mitarbeiter der Tech-Giganten.

Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter.
Sandy Parakilas, ehemaliger Facebook- und Uber-Mitarbeiter.screenshot: netflix
«Nur eine Handvoll Leute in diesen Firmen, bei Facebook, Twitter und Co. verstehen, wie diese Systeme funktionieren. Und selbst die verstehen nicht immer vollständig, was mit einem bestimmten Inhalt passiert. Wir Menschen haben fast die Kontrolle über diese Systeme verloren.»

Durch maschinelles Lernen entwickeln sich die Systeme immer weiter, um den User noch mehr auszupressen. Nur sehr wenige Leute verstehen, wie das genau funktioniert. Allerdings können auch die Experten bei den grossen Tech-Unternehmen nicht mehr immer nachvollziehen, was die von ihnen programmierten Maschinen machen.

Randima Fernando, ehemaliger Nvidia-Mitarbeiter.
Randima Fernando, ehemaliger Nvidia-Mitarbeiter.screenshot: netflix
«Das Gefährlichste daran ist vielleicht, dass sich die Technologie dahinter exponentiell weiterentwickelt. Grob gesagt stieg die Rechenleistung der Computer von den 1960ern bis heute um das Billionenfache.»

Der Mensch hat sich schon an das Radio und an den TV angepasst. Wird er nun nicht auch lernen, mit Social Media umzugehen? Nun, das dürfte ungleich schwieriger werden. Denn die Technologien, die hinter den neuen Plattformen stecken, entwickeln sich schneller als alles, was die Menschheit bisher erlebt hat. Die Rechenleistung der Computer ist seit den 60er-Jahren um das Billionenfache gestiegen, das menschliche Hirn hat sich derweil nicht bedeutend weiterentwickelt.

Tristan Harris, Ex-Google-Mitarbeiter.
Tristan Harris, Ex-Google-Mitarbeiter.screenshot: netflix
«Wir warten alle auf den Moment, an dem Technologie menschliche Stärken und Intelligenz übersteigt. Wann wird sie unsere Jobs übernehmen, klüger als Menschen sein? Aber es gibt einen viel früheren Moment, an dem Technologie menschliche Schwächen überwindet und übersteigt. Dieser überschrittene Punkt ist die Wurzel von Sucht, Polarisierung, Radikalisierung, mehr Empörung, mehr Eitelkeit, alles. Es überfordert die menschliche Natur. Das ist Schachmatt für die Menschheit.»

Für die Experten in der Doku ist klar, dass bereits eine wichtige Schwelle überschritten wurde. Die Künstliche Intelligenz weiss die Schwächen der Menschen auszunutzen, sie kann uns austricksen. Dies führt zu einer Überforderung, welche fatale Folgen hat, was uns zum nächsten Punkt bringt.

Tim Kendall, ehemaliger Facebook-Mitarbeiter und Pinterest-Präsident.
Tim Kendall, ehemaliger Facebook-Mitarbeiter und Pinterest-Präsident.
«Diese Dienste bringen Menschen um und bringen sie dazu, sich umzubringen.»

Vielleicht denkst du dir jetzt, dass dich das alles nichts angeht und du nichts dagegen hast, wenn dir personalisierte Werbung ausgespielt wird. Doch so einfach ist das nicht. In der Doku werden mehrere Beispiele aufgezeigt, welch gefährlichen Auswirkungen Social Media auf die Menschheit hat und bereits hatte.

Weil dir die Plattformen immer nur das ausspielen, was dich anspricht, wirst du deine Bubble kaum mehr verlassen. Hast du dich für eine Seite entschieden, wirst du kaum mehr Informationen von der anderen Seite erhalten. Die Folge: Die Menschen radikalisieren sich, verstehen sich nicht mehr und werden auseinandergetrieben.

In den USA sind die Gräben zwischen Republikanern und Demokraten tiefer denn je. Der Hass aufs gegnerische Lager wird immer grösser, sodass sich der ehemalige Pinterest-Präsident Tim Kendall ernsthaft Sorgen vor einem Bürgerkrieg macht.

In Myanmar radikalisierte sich derweil die Bevölkerung auf Facebook und vertrieb 700'000 Rohingyas aus ihren Dörfern. Dies, um nur ein weiteres Beispiel von vielen zu nennen.

Die Social-Media-Sucht kann aber auch verheerende Konsequenzen für die psychische Gesundheit der User haben. Seit 2009 ist in den USA die Zahl der Mädchen zwischen 10 und 14 Jahren, die aufgrund Selbstverletzung ins Spital mussten, um 189 Prozent gestiegen. Auch die Zahl der Suizide stieg markant an.

Lass dir helfen!
Du glaubst, du kannst eine persönliche Krise nicht selbst bewältigen? Das musst du auch nicht. Lass dir helfen.
In der Schweiz gibt es zahlreiche Stellen, die rund um die Uhr für Menschen in suizidalen und depressiven Krisen da sind – vertraulich und kostenlos.

Die Dargebotene Hand: Tel 143, www.143.ch
Beratung + Hilfe 147 für Jugendliche: Tel 147, www.147.ch
Reden kann retten: www.reden-kann-retten.ch

Bailey Richardson, ehemalige Instagram-Mitarbeiterin.
Bailey Richardson, ehemalige Instagram-Mitarbeiterin.
«Das Internet war seltsam, verschroben. Es war experimentell. Kreative Dinge passierten im Internet, auch heute noch, aber es ist eher wie ein riesiges Einkaufszentrum. [...] Ich bin wohl Optimistin. Ich denke, wir können die sozialen Medien verändern.»

Haben wir den Kampf gegen die Künstliche Intelligenz also bereits verloren, bevor viele überhaupt gemerkt haben, dass er begonnen hat? Die Tech-Experten in der Doku glauben, dass ein Turnaround möglich wäre, auch wenn nicht alle gleichermassen optimistisch sind.

Die Systeme seien von Menschen erschaffen worden, diese könnten sie auch sinnstiftend umprogrammieren, so der Tenor. Sie sprechen sich für stärkere Regulierungen im Internet aus und geben gleichzeitig auch Handlungsempfehlungen an jeden einzelnen von uns weiter. Etwa:

  • Alle Apps löschen, welche deine Zeit stehlen.
  • Klicke nie auf ein Youtube-Video, das dir von Youtube empfohlen wurde.
  • Bevor du etwas teilst, mache einen Faktencheck.
  • Abonniere und folge auch Menschen, die nicht deiner Meinung sind.
  • Mache genaue Regeln ab, wie und wann deine Kinder Social Media nutzen dürfen.
  • Spreche über die Probleme, welche durch Social Media entstehen. Spreche darüber, wie man die Probleme lösen kann.
DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
19 Instagram-Fails: Weniger Photoshop wäre weniger peinlich
1 / 21
19 Instagram-Fails: Weniger Photoshop wäre weniger peinlich
Hier biegen sich schon die Balken.
Auf Facebook teilenAuf X teilen
Bitte sei einfach keiner dieser Selfie-Typen!
Video: watson
Das könnte dich auch noch interessieren:
228 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Geläutert
23.09.2020 09:41registriert April 2020
"Weil dir die Plattformen immer nur das ausspielen, was dich anspricht, wirst du deine Bubble kaum mehr verlassen. Hast du dich für eine Seite entschieden, wirst du kaum mehr Informationen von der anderen Seite erhalten. Die Folge: Die Menschen radikalisieren sich, verstehen sich nicht mehr und werden auseinandergetrieben."

DAS SOLLTE SICH JEDER ZU HERZEN NEHMEN! Diese Radikalisierung geschieht sowohl auf Rechter wie auf Linker Seite!
108422
Melden
Zum Kommentar
avatar
Snowy
23.09.2020 10:02registriert April 2016
Das Problem der Bubble hat sich während der Corona/Homeofficezeit leider akzentuiert.

Es war richtig tragisch mit anzusehen, wie sich Menschen in meinem Umfeld völlig einseitig informiert haben.

Die einen posteten täglich einen "StaytheFuckHome" -Aufruf auf SM und zogen über andere Menschen her, welche ihrer Meinung nach zu Nahe beieinander am See flanierten.

Das andere extrem postete irgendwelche wirren Youtubevideos, welche nicht mal einem 5 Sekunden-Desktopfact-checking standhalten.

Beide Gruppen fühlten sich total im Recht und durch ihre Bubble bestärkt.
Ganz ungute Entwicklung.
51723
Melden
Zum Kommentar
avatar
willi202202
23.09.2020 09:51registriert April 2019
Ich verstehe die personalisierte Werbung nicht. Sie ist unsinnig. Habe ich einen Toaster gekauft, dann macht es wenig Sinn mir ständig Werbung von Toastern aufzuschalten. Das ist anschliessend ein Produkt welches ich auf absehbare Zeit nicht mehr kaufen werde.
53957
Melden
Zum Kommentar
228
In Spanien laufen die Sexmeisterschaften – der Höhepunkt war die Kommentarspalte
Derzeit laufen in Spanien die Sex-«Weltmeisterschaften». Offiziell ist das Ganze natürlich nicht – Sex ist als Sport nicht offiziell anerkannt. Beim Blick in die Kommentarspalte könnte sich das aber bald ändern.

Im Bericht zu den Sex-Meisterschaften wurden die 16 Disziplinen ausführlich erklärt. Einigen von euch war das etwas zu kompliziert, anderen sind weitere mögliche Disziplinen eingefallen, wie etwa:

Zur Story