Es ist nur die neuste Randnotiz in einem schmutzigen Spiel, das viele Nutzerinnen und Nutzer, die Wert auf Datenschutz und Privatsphäre legen, entgeistert mitverfolgen: Tumblr und WordPress bereiten sich gemäss einem Enthüllungsbericht vom Dienstag darauf vor, grosse Teile ihre Nutzerdaten an Midjourney und OpenAI zu verkaufen.
Dem US-Medium 404 Media sind Insider-Informationen zugespielt worden, wonach ein entsprechender Deal der beiden KI-Entwickler mit Automattic, der Muttergesellschaft der Blogging-Plattformen, kurz vor dem Abschluss steht.
Das Vorgehen wirft Fragen auf.
Eine von der Techjournalistin Samantha Cole eingesehene interne Dokumentation beschreibe «einen chaotischen und kontroversen Prozess innerhalb von Tumblr selbst», wie es in ihrem Bericht bei 404 Media heisst.
Demnach lief beim Scraping – dem automatisierten Erfassen der User-Inhalte, um sie für den Verkauf vorzubereiten – etwas gewaltig schief. Offenbar wurde auch «eine riesige Anzahl Nutzerbeiträge» fälschlicherweise miterfasst.
Der Medienbericht zitiert aus einem internen Schreiben eines zuständigen Managers, wonach eine Liste aller öffentlichen Post-Inhalte von Tumblr zwischen 2014 und 2023 zusammengestellt wurde, doch leider habe das Scraping auch Postings erfasst, die nicht enthalten sein dürften:
Ein Branchenbeobachter kommentiert:
Tatsächlich haben mehrere grosse Online-Plattformen in letzter Zeit ähnliche Vereinbarungen mit KI-Unternehmen getroffen, wie 404 Media in Erinnerung ruft.
Im vergangenen Jahr unterzeichnete der grosse Stock-Photo-Anbieter Shutterstock einen Sechsjahresvertrag mit OpenAI zur Bereitstellung von KI-Trainingsdaten.
Ein populärer Plattformbetreiber, der neu mit KI-Trainingsdaten Geld verdienen will, ist Reddit. Das US-Unternehmen hat eine Lizenzvereinbarung für KI-Inhalte mit Google abgeschlossen und letzte Woche im Zuge des geplanten Börsenganges öffentlich erklärt, dass es sich «in der Anfangsphase der Monetarisierung [seiner] Nutzerbasis» befinde.
Der Ärger der Betroffenen war und ist gross.
Wer weiss, vielleicht begegnen ihnen ihre eigenen Postings an anderer Stelle, in anderer Form wieder: als scheinbar schlaue Antwort von Chatbots wie ChatGPT und Gemini oder als vermeintlich kreatives Erzeugnis eines KI-Bildgenerators.
Aber muss man ohnmächtig mitansehen, wie selbsterstellte Inhalte ohne ausdrückliche Zustimmung und unter Missachtung der Privatsphäre von Dritten für das Trainieren von Künstlicher Intelligenz verwendet werden?
Der Teufel steckt im Kleingedruckten, respektive in den Allgemeinen Geschäftsbedingungen (AGB), denen die allermeisten Nutzerinnen und Nutzer gedankenlos zustimmen.
Kommt hinzu, dass nicht nur die generative KI selbst eine Blackbox ist und sich die Anbieter – ob OpenAI, Midjourney, Google oder andere Anbieter – in Intransparenz üben.
Der öffentliche Druck scheint aber zumindest in Einzelfällen zu wirken und die Verantwortlichen müssen sich erklären.
Gegenüber der Techjournalistin von 404 Media wollte Automattic zwar keine konkreten Fragen zum Deal und dem Scraping von User-Daten beantworten, wie es heisst.
Stattdessen habe Automattic eine Erklärung mit dem Titel «Protecting User Choice» (Schutz der Wahlfreiheit der User) verschickt, diese sei aber erst nach der Veröffentlichung des Enthüllungsberichts auf der Website veröffentlicht worden. Darin verspricht Automattic, dass es KI-Crawler daran hindere, die eigenen Websites zu durchforsten. Und weiter:
Automattic plane, auf seinen Plattformen am (heutigen) Mittwoch eine neue Einstellung einzuführen, die es den Nutzerinnen und Nutzern ermögliche, die Weitergabe von Daten an Dritte, einschliesslich KI-Firmen, abzulehnen.
Allerdings ist die Umsetzung dieses Versprechens fraglich, wie ein weiteres internes Schreiben, das 404 Media einsehen konnte, belegen soll. Laut Bericht fragte ein besorgter Mitarbeiter in einem internen Kommunikationskanal:
Der Leiter der KI-Abteilung von Automattic, antwortete, er gehe aufgrund der bisherigen Gespräche mit den Partnern davon aus, dass diese sich daran halten werden.
Die Frage von 404 Media, ob das US-Unternehmen garantieren könne, dass die Daten von Personen, die sich abmelden, rückwirkend gelöscht werden, blieb unbeantwortet.
Die Techjournalistin Cole weist auf eine weitere Unklarheit hin: In der Erklärung, die Automattic nach der Veröffentlichung ihres Artikels verschickte, sei ausdrücklich von WordPress.com die Rede. Dies umfasse die Blogs, die Automattic auch selbst hoste, also auf eigenen Servern anbiete.
Daneben existiert aber ein separates Open-Source-WordPress (WordPress.org), das von Privatpersonen und Unternehmen für selbst gehostete Websites verwendet wird.
Unklar bleibe, ob diese selbst gehosteten WordPress-Blogs, die beliebte Automattic-Plugins verwendeten, um die Blogs mit der Automattic-Infrastruktur zu verbinden, von den KI-Scraping-Massnahmen betroffen seien.
Unternehmen wie Midjourney und OpenAI benötigen riesige Datensätze, um ihre KI-Systeme zu trainieren. Programme wie ChatGPT basieren auf sogenannten grossen Sprachmodellen (englische Abkürzung: LLM). Und diese Sprachmodelle müssen während der Trainingsphase mit möglichst vielen Informationen gefüttert werden, um Muster abzuleiten und daraus dann passende Inhalte generieren zu können.
Beispielsweise könnten WordPress-Blogbeiträge, die mit Lieblingsrezepten gefüllt sind, den grossen Sprachmodellen zugeführt werden, um ihnen beizubringen, wie man über Essen «spricht». Zur Erinnerung: Generative KI hat nichts mit echter Intelligenz zu tun. Es handelt sich um eine Software, die aufgrund von Wahrscheinlichkeiten Inhalte generiert, diese aber in keiner Weise selbst verstehen kann.
Es ist nicht so, dass nicht alle davor gewarnt wurden.
Folge: KI lernt Idioten-Content.
Resultat: KI gibt idiotische Antworten.
Brave New World…