Digital
Künstliche Intelligenz

ChatGPT am Pranger: KI profitierte von afrikanischen Billiglöhnern

Bildschirmarbeiter in Nairobi.
Blick auf die kenianische Hauptstadt Nairobi, wo Bildschirmarbeiter im Auftrag von OpenAI traumatisierenden «Datenetikettierungen» nachgingen. Bild: Shutterstock/Screenshot: sama.com

Das dreckige Geheimnis von OpenAI – gehypte KI basiert auf menschlichen Schmutz-Filtern

Für weniger als 2 US-Dollar pro Stunde halfen Auftragsarbeiter, die gehypte Künstliche Intelligenz sicherer zu machen. Ein traumatisierender Job.
19.01.2023, 20:2124.03.2023, 15:40
Mehr «Digital»

OpenAI, das US-Unternehmen hinter ChatGPT, hat kenianischen Arbeitern weniger als 2 US-Dollar pro Stunde bezahlt, um höchst problematische Inhalte zu beurteilen. Dies zeigt eine am Mittwoch veröffentlichte Recherche des renommierten «Time»-Nachrichtenmagazins.

Trotz ihrer wesentlichen Rolle beim Aufbau des KI-Chatbots seien die Bildschirmarbeiter mit zermürbenden Bedingungen und niedrigen Löhnen konfrontiert gewesen.

Die Billiglöhner wurden als sogenannte «Datenetikettierer» eingesetzt. Das heisst, sie hatten Zehntausende von problematischen Textzeilen zu filtern, um den KI-Chatbot für die öffentliche Nutzung sicher zu machen.

Dabei seien sie mit Schilderungen von sexuellem Kindesmissbrauch, Zoophilie, Tötungen, Suizid, Folter, Selbstverletzung und Inzest konfrontiert worden, so der Bericht.

Die Problematik erinnert an die fragwürdigen Arbeitsbedingungen von Inhalte-Moderatoren, die im Auftrag grosser Social-Media-Plattformen wie Facebook tätig sind.

Wie konnte das passieren?

ChatGPT war nicht immer so eloquent, wie das Online-Medium «Vice» schreibt. Tatsächlich ist seit dem Start der öffentlichen Testphase im November 2022 ein eigentlicher Hype um das sprachliche Können des KI-Chatbots entstanden.

Die Vorgänger-Software, die auf einem Sprachenmodell namens GPT-3 basiert, habe noch oft sexistische, gewalttätige und rassistische Texte produziert. Dies, weil das Modell auf einem Datensatz trainiert wurde, der aus Milliarden von Webseiten extrahiert wurde. Sprich: Die KI verinnerlichte von menschlichen Verfassern alle möglichen Textinhalte.

Bevor die Verantwortlichen ChatGPT starten konnten, suchten sie nach einer Lösung, um schnell die gesamte toxische Sprache aus dem riesigen Datensatz herauszufiltern.

Dafür habe sich OpenAI mit dem Datenkennzeichnungs-Unternehmen Sama in San Francisco zusammengetan. Das Unternehmen verspricht, in Entwicklungsländern lebenden Menschen «ethische» und «würdige digitale Arbeit» zu bieten. Beim OpenAI-Auftrag ging es darum, toxische Inhalte zu erkennen und zu kennzeichnen, die dann als Daten in ein Filtertool für ChatGPT eingespeist werden konnten.

Sama rekrutierte dazu in Kenia die Datenetikettierer, die eine wesentliche Rolle dabei spielen sollten, den KI-Chatbot für die öffentliche Nutzung sicher zu machen.

Das Unternehmen bezahlt auch Mitarbeiter in Uganda und Indien, um grosse Datenmengen für Silicon-Valley-Kunden wie Google, Meta und Microsoft zu kennzeichnen.

Was sagt OpenAI dazu?

Ein Unternehmenssprecher erklärte:

«Unsere Mission ist es, sicherzustellen, dass die gesamte Menschheit von künstlicher allgemeiner Intelligenz profitiert, und wir arbeiten hart daran, sichere und nützliche KI-Systeme zu entwickeln, die Vorurteile und schädliche Inhalte begrenzen.

Das Klassifizieren und Filtern schädlicher [Texte und Bilder] ist ein notwendiger Schritt, um die Menge an gewalttätigen und sexuellen Inhalten, die in Trainingsdaten enthalten sind, zu minimieren und Tools zu erstellen, die schädliche Inhalte erkennen können.»
quelle: time.com

Weiter hiess es, die Mitarbeiter hätten Anspruch auf Einzel- und Gruppensitzungen mit «professionell ausgebildeten und lizenzierten Therapeuten für psychische Gesundheit».

Übrigens kündigte Sama seine Arbeit für OpenAI im Februar 2022, acht Monate vor dem vertraglich vereinbarten Termin. Im gleichen Monat veröffentlichte das «Time»-Magazin einen kritischen Artikel über Samas Arbeit mit dem Meta-Konzern von Mark Zuckerberg. Darin geht es um Inhalte-Moderatoren, die traumatisiert wurden, nachdem sie Bilder und Videos von Hinrichtungen, Vergewaltigungen und Kindesmissbrauch für 1,50 Dollar pro Stunde angesehen hatten.

Laut «Time» ist nicht klar, ob OpenAI auch mit anderen Datenkennzeichnungsfirmen kooperiert hat. Das amerikanische KI-Unternehmen hält sich diesbezüglich bedeckt.

Was lernen wir daraus?

Das zum «Vice»-Medienkonzern gehörende Online-Medium Motherboard hatte im vergangenen Dezember kritisch berichtet, dass die viel gepriesene KI-Innovation von unterbezahlten Arbeitern im Ausland vorangetrieben werde.

Trotz der wahrscheinlich weitverbreiteten Meinung, dass KI-Software wie ChatGPT von sich aus auf quasi magische Weise funktioniere, ist sehr viel menschliche Arbeit erforderlich, um die Künstliche Intelligenz davon abzuhalten, unangemessene oder gar illegale Inhalte zu generieren.

KI-Software ist ein Multimilliardengeschäft und könnte ganze Wirtschaftsbranchen auf den Kopf stellen. Erwartungsgemäss liefern sich Unternehmen rund um den Globus einen Wettstreit um die leistungsfähigsten Technologien.

Das Outsourcen von routinemässiger, potenziell traumatisierender Arbeit komme den grossen Techkonzernen in vielerlei Hinsicht zugute, hält «Vice» fest: Die Unternehmen «können Geld sparen, indem sie billige Arbeitskräfte einsetzen, eine strenge Rechtsprechung über Arbeitsbedingungen vermeiden und eine Distanz zwischen ihren ‹innovativen› Werkzeugen und den dahinter stehenden Arbeitern schaffen».

Das «Time»-Magazin konstatiert:

«KI ist trotz all ihres Glanzes oft auf versteckte menschliche Arbeit im globalen Süden angewiesen, die oft schädlich und ausbeuterisch sein kann. Diese unsichtbaren Arbeiter bleiben am Rande, auch wenn ihre Arbeit zu Milliarden-Dollar-Industrien beiträgt.»

Die Führung von OpenAI steht laut Berichten in Verhandlungen mit Investoren, um Gelder in Höhe von 29 Milliarden Dollar zu beschaffen, einschliesslich einer potenziellen Investition von 10 Milliarden Dollar durch Microsoft. Damit würde OpenAI eines der wertvollsten KI-Unternehmen der Welt. Schon heute ist es unangefochtener Marktführer.

Quellen

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Künstliche Intelligenz im Kino: Gnadenlose Schaltkreise
1 / 31
Künstliche Intelligenz im Kino: Gnadenlose Schaltkreise
Lasst die Spiele beginnen: Das Master Control Program (M.C.P.) ist sauer. Der Programmierer Kevin Flynn (Jeff Bridges) will mit einem Code namens Tron seine gestohlenen Ideen aus dem Grossrechner der KI zurückklauen. Das M.C.P. digitalisiert den «Nutzer» daraufhin mit einem Laserstrahl und lässt ihn im Inneren des Rechners gegen andere Programme antreten. Der Disneyfilm «Tron» von 1982 traf mit dem Thema Künstliche Intelligenz den Zeitgeist einer videospielbegeisterten Jugend und wurde zum Klassiker des Filmjahrzehnts. ... Mehr lesen
Auf Facebook teilenAuf X teilen
Dieser Roboter ahmt die Mimik in Echtzeit nach
Video: watson
Das könnte dich auch noch interessieren:
86 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
nichtMc
19.01.2023 20:40registriert Juli 2019
😱 Die ewigen Weltverbesser aus dem Silicon Valley beuten Unterprivilegierte, um ihre tollen "making the world a better place"-Ideen umzusetzen.
Das hätte ich jetzt also nach Amazon, Uber, Facebook, etc. niemals gedacht.
12812
Melden
Zum Kommentar
avatar
MadChic
19.01.2023 20:33registriert Oktober 2021
Wer hätte denn das schon kommen sehen können?
Also ehrlich, ein Tool das jedem Bürogummi verspricht, entweder nicht mehr selbst arbeiten zu müssen oder bei der Arbeit am besten zu sein, oder sogar beides? Und erst noch gratis?
So etwas hinterfragt man doch nicht. Oder?
9117
Melden
Zum Kommentar
avatar
x%8Tz*3GsUf3
19.01.2023 22:00registriert Dezember 2020
Also ich weiss Watsonkommentare sind eher linksgerichtet, bin auch oft deshalb hier 🤣 Und ja ich finde Ausbeutung Scheisse etc. Aber bevor die Empörungsgesellschaft, die dann trotzdem nicht auf iPhone mit Siri etc. verzichtet, sich eben empört, finde ich gleichzeitig, auch dass für mich Notfall, Polizist, Chirurg, Metzger, auch schon traumatisierend wäre. Danke wer's macht, dass ich nicht muss. Und um noch mehr Daumen tief zu farmen möchte ich noch hinzufügen, dass ein Scheiss Job in vielen Hinsichten besser ist als gar kein Job (Ich rede aus Erfahrung). Aber ja, Thematisieren ist richtig.
10334
Melden
Zum Kommentar
86
Aufregung um «grösstes Passwort-Leak aller Zeiten» – das steckt dahinter
In einem Hacker-Forum ist unter der Bezeichnung RockYou2024 die angeblich grösste Sammlung gestohlener Login-Daten veröffentlicht worden. Kein Grund zur Panik!

Seit Tagen machten alarmierende Meldungen über das angeblich grösste Passwort-Leak aller Zeiten die Runde. Fast zehn Milliarden gestohlene Login-Daten seien in einer Datei namens rockyou2024.txt enthalten. Dabei handle es sich um User-Daten, die aus verschiedenen aktuellen und älteren Leaks zusammengetragen wurden.

Zur Story