KI-Videos mit Anti-Migrations-Inhalten erzielen Milliarden Klicks auf TikTok
Forschende von AI Forensics haben 354 TikTok-Accounts identifiziert, die 43'000 KI-generierte Beiträge veröffentlicht und innerhalb eines Monats insgesamt 4,5 Milliarden Aufrufe erzielt haben. Darunter sexualisierte und migrationskritische Inhalte, berichtet der Guardian.
Ein einzelner Account postete an einem einzigen Tag bis zu 70 Beiträgen – stets zur gleichen Uhrzeit – ein deutliches Anzeichen für einen automatisiert gesteuerten Account. Viele dieser Accounts versuchen gezielt, den TikTok-Algorithmus zu beeinflussen, indem sie eine grosse Menge an Inhalten veröffentlichen, um möglichst viral zu gehen.
Weiblicher Körper wird sexualisiert
Bei den aktivsten Accounts konzentrierte sich die Hälfte der Inhalte auf den weiblichen Körper. Laut Bericht sind die dargestellten KI-Frauen meist stereotypisch attraktiv, tragen sexualisierte Kleidung oder zeigen Dekolleté. Einige Inhalte erschienen als gefälschte Nachrichtensendungen mit migrationskritischen Botschaften und sexualisierten Darstellungen von Frauen, darunter auch Mädchen, die offenbar unter 18 Jahre alt waren.
Die Kategorie «weiblicher Körper» machte die Hälfte der zehn aktivsten Accounts aus, während einige der Fake-News-Beiträge bekannte Nachrichtensender wie Sky News oder ABC zeigen.
Die Forschenden stellten fest, dass die Accounts die Hälfte ihrer Beiträge nicht als KI-Inhalte kennzeichneten und weniger als zwei Prozent das TikTok-Label für KI-Inhalte trugen. Die Organisation warnte, dass dies das irreführende Potenzial der Inhalte erhöhen könnte. Ausserdem entgehen die Accounts teilweise monatelang der Moderation von TikTok, obwohl sie gegen die Nutzungsbedingungen verstossen.
TikTok gibt Möglichkeit Menge an KI-Inhalte zu reduzieren
Letzten Monat gab TikTok bekannt, dass es mindestens 1,3 Milliarden KI-generierte Beiträge auf der Plattform gibt. Täglich werden über 100 Millionen Inhalte hochgeladen, sodass als KI gekennzeichnete Beiträge nur einen kleinen Teil des Gesamtangebots ausmachen. Nutzerinnen und Nutzer haben zudem die Möglichkeit, die Menge an KI-Inhalten, die sie sehen, zu reduzieren. Ein TikTok-Sprecher sagt:
Die Forschenden weisen darauf hin, dass die Kennzeichnung noch verbessert werden müsse, da es häufig Fehler bei der Erkennung solcher Inhalte gibt, und äusserten Skepsis über den Erfolg dieser Funktion. (fak)
