Das dreckige Geheimnis von OpenAI – gehypte KI basiert auf menschlichen Schmutz-Filtern
OpenAI, das US-Unternehmen hinter ChatGPT, hat kenianischen Arbeitern weniger als 2 US-Dollar pro Stunde bezahlt, um höchst problematische Inhalte zu beurteilen. Dies zeigt eine am Mittwoch veröffentlichte Recherche des renommierten «Time»-Nachrichtenmagazins.
Trotz ihrer wesentlichen Rolle beim Aufbau des KI-Chatbots seien die Bildschirmarbeiter mit zermürbenden Bedingungen und niedrigen Löhnen konfrontiert gewesen.
Die Billiglöhner wurden als sogenannte «Datenetikettierer» eingesetzt. Das heisst, sie hatten Zehntausende von problematischen Textzeilen zu filtern, um den KI-Chatbot für die öffentliche Nutzung sicher zu machen.
Dabei seien sie mit Schilderungen von sexuellem Kindesmissbrauch, Zoophilie, Tötungen, Suizid, Folter, Selbstverletzung und Inzest konfrontiert worden, so der Bericht.
Die Problematik erinnert an die fragwürdigen Arbeitsbedingungen von Inhalte-Moderatoren, die im Auftrag grosser Social-Media-Plattformen wie Facebook tätig sind.
Wie konnte das passieren?
ChatGPT war nicht immer so eloquent, wie das Online-Medium «Vice» schreibt. Tatsächlich ist seit dem Start der öffentlichen Testphase im November 2022 ein eigentlicher Hype um das sprachliche Können des KI-Chatbots entstanden.
Die Vorgänger-Software, die auf einem Sprachenmodell namens GPT-3 basiert, habe noch oft sexistische, gewalttätige und rassistische Texte produziert. Dies, weil das Modell auf einem Datensatz trainiert wurde, der aus Milliarden von Webseiten extrahiert wurde. Sprich: Die KI verinnerlichte von menschlichen Verfassern alle möglichen Textinhalte.
Bevor die Verantwortlichen ChatGPT starten konnten, suchten sie nach einer Lösung, um schnell die gesamte toxische Sprache aus dem riesigen Datensatz herauszufiltern.
Dafür habe sich OpenAI mit dem Datenkennzeichnungs-Unternehmen Sama in San Francisco zusammengetan. Das Unternehmen verspricht, in Entwicklungsländern lebenden Menschen «ethische» und «würdige digitale Arbeit» zu bieten. Beim OpenAI-Auftrag ging es darum, toxische Inhalte zu erkennen und zu kennzeichnen, die dann als Daten in ein Filtertool für ChatGPT eingespeist werden konnten.
Sama rekrutierte dazu in Kenia die Datenetikettierer, die eine wesentliche Rolle dabei spielen sollten, den KI-Chatbot für die öffentliche Nutzung sicher zu machen.
Das Unternehmen bezahlt auch Mitarbeiter in Uganda und Indien, um grosse Datenmengen für Silicon-Valley-Kunden wie Google, Meta und Microsoft zu kennzeichnen.
Was sagt OpenAI dazu?
Ein Unternehmenssprecher erklärte:
Das Klassifizieren und Filtern schädlicher [Texte und Bilder] ist ein notwendiger Schritt, um die Menge an gewalttätigen und sexuellen Inhalten, die in Trainingsdaten enthalten sind, zu minimieren und Tools zu erstellen, die schädliche Inhalte erkennen können.»
Weiter hiess es, die Mitarbeiter hätten Anspruch auf Einzel- und Gruppensitzungen mit «professionell ausgebildeten und lizenzierten Therapeuten für psychische Gesundheit».
Übrigens kündigte Sama seine Arbeit für OpenAI im Februar 2022, acht Monate vor dem vertraglich vereinbarten Termin. Im gleichen Monat veröffentlichte das «Time»-Magazin einen kritischen Artikel über Samas Arbeit mit dem Meta-Konzern von Mark Zuckerberg. Darin geht es um Inhalte-Moderatoren, die traumatisiert wurden, nachdem sie Bilder und Videos von Hinrichtungen, Vergewaltigungen und Kindesmissbrauch für 1,50 Dollar pro Stunde angesehen hatten.
Laut «Time» ist nicht klar, ob OpenAI auch mit anderen Datenkennzeichnungsfirmen kooperiert hat. Das amerikanische KI-Unternehmen hält sich diesbezüglich bedeckt.
Was lernen wir daraus?
Das zum «Vice»-Medienkonzern gehörende Online-Medium Motherboard hatte im vergangenen Dezember kritisch berichtet, dass die viel gepriesene KI-Innovation von unterbezahlten Arbeitern im Ausland vorangetrieben werde.
Trotz der wahrscheinlich weitverbreiteten Meinung, dass KI-Software wie ChatGPT von sich aus auf quasi magische Weise funktioniere, ist sehr viel menschliche Arbeit erforderlich, um die Künstliche Intelligenz davon abzuhalten, unangemessene oder gar illegale Inhalte zu generieren.
KI-Software ist ein Multimilliardengeschäft und könnte ganze Wirtschaftsbranchen auf den Kopf stellen. Erwartungsgemäss liefern sich Unternehmen rund um den Globus einen Wettstreit um die leistungsfähigsten Technologien.
Das Outsourcen von routinemässiger, potenziell traumatisierender Arbeit komme den grossen Techkonzernen in vielerlei Hinsicht zugute, hält «Vice» fest: Die Unternehmen «können Geld sparen, indem sie billige Arbeitskräfte einsetzen, eine strenge Rechtsprechung über Arbeitsbedingungen vermeiden und eine Distanz zwischen ihren ‹innovativen› Werkzeugen und den dahinter stehenden Arbeitern schaffen».
Das «Time»-Magazin konstatiert:
Die Führung von OpenAI steht laut Berichten in Verhandlungen mit Investoren, um Gelder in Höhe von 29 Milliarden Dollar zu beschaffen, einschliesslich einer potenziellen Investition von 10 Milliarden Dollar durch Microsoft. Damit würde OpenAI eines der wertvollsten KI-Unternehmen der Welt. Schon heute ist es unangefochtener Marktführer.
