Digital
Künstliche Intelligenz

Fragwürdige KI-Videos auf TikTok: Tote Kinder erzählen ihre Geschichte

Fragwürdige KI-Videos auf TikTok: Tote Kinder erzählen ihre Geschichte

In den Abgründen TikToks tummeln sich viele True-Crime-Fans. Diese haben jetzt die KI für sich entdeckt. In schaurigen Videos erzählen Opfer, mit einer kindlichen, aber dennoch merklich mechanischen Stimme, ihre Geschichte. Ein bekanntes Gesicht: Madeleine McCann.
01.06.2023, 09:3801.06.2023, 15:47
Folge mir
Mehr «Digital»

«Es ist eine tragische Geschichte des Grauens, welche die ganze Nation in ihren Grundfesten erschüttert hat», sagt eine kindlich hohe, aber unnatürliche Stimme. Der Kopf eines Mädchens bewegt sich leicht nach oben und unten, um die Illusion zu schaffen, man sehe einem echten Menschen zu. Dann fährt die Stimme fort: «Mein Name ist Becky Watts. Ich kam 1998 in Bristol, England, als ältestes von fünf Geschwistern auf die Welt. Meine Kindheit war aber nur wenig idyllisch, stattdessen war sie geprägt von Verwahrlosung und Missbrauch durch eben jene Menschen, die mich lieben und beschützen sollten. Mit 16 wurde mein Leben dann ein realer Albtraum. Mein Stiefbruder Nathan Matthews und seine Partnerin Shauna Hoare begannen ihre Terrorkampagne: Sie stahlen meine Sachen und sperrten mich stundenlang in meinem Zimmer ein.»

In diesem Stile beginnen hunderte Videos auf TikTok. Dabei berichten von einer KI generierte Kinder von ihrer eigenen Ermordung oder Entführung. Im oben geschilderten Beispiel geht es um die 2016 von ihrem eigenen Stiefbruder ermordete Becky Watts, die Geschichte ist grösstenteils wahr. Bei kleineren Details wird zum Teil von der Wahrheit abgewichen oder diese ausgeschmückt. Zum Beispiel ist nirgends vermerkt, dass sie das älteste von fünf Kindern war.

Am Ende der Videos bedanken sich die Kinder fürs Zuhören und bitten darum, dass man ihnen, beziehungsweise dem TikTok-Kanal, folgt. Die Videos sind meist mit epischer oder dramatischer Musik unterlegt.

Unter dem Hashtag #animatedhistory finden sich auf TikTok hunderte Videos von Kindern, die Opfer von Gewaltverbrechen wurden. Dazu gibt es auch noch einige Videos von historischen Figuren, wie Tupac, JFK oder der Queen, die als KI-Figuren die Geschichte ihres Lebens erzählen.

TikTok screenshot hashtag animatedhistory
Auf TikTok gibt es inzwischen hunderte kurze Videos, die den Tod von Kindern thematisieren.Bild: screenshot tiktok

Gegenüber Rolling Stones kommentierte der Assistenz-Professor für Strafrecht der Universität New Haven Paul Bleakley die True-Crime-Videos.

Solche Videos können laut Bleakley für Opfer und Verwandte von Opfern schwierig zu verarbeiten sein. «Die Möglichkeit, dass Opfer erneut traumatisiert werden, besteht», warnt Bleakley. «Stellen Sie sich vor, Sie wären ein Elternteil oder ein Verwandter eines der Kinder in diesen KI-Videos. Sie gehen ins Internet und sehen plötzlich ein KI-generiertes Bild, das Ihrem verstorbenen Kind nachempfunden ist, begleitet von einer seltsamen, hohen Stimme, die detailliert beschreibt, was mit Ihrem Kind passiert ist. Das kann extrem verstörend sein.»

Bleakley merkte auch an, dass die KI-Videos nicht bei sprechenden Porträts aufhören müssen. Es wäre auch denkbar, dass True-Crime-Fans ganze Verbrechen mithilfe von Künstlicher Intelligenz nachstellen könnten.

Auch sonst sind die Videos nicht ganz unproblematisch. Laut Rechtsanwalt und Experte für Recht im digitalen Raum Martin Steiger sind Deepfakes von noch lebenden Personen zivilrechtlich belangbar. Als Privatperson besitzen sie einen Persönlichkeitsschutz. Nach dem Tod erlischt dieser jedoch. Falls der Urheber der Deepfakes nicht greifbar ist, sind ebenfalls die Vertreiber, in diesem Fall also TikTok, haftbar.

Bei verstorbenen Personen kann aber immer noch eine strafbare Ehrverletzung vorliegen. Die Angehörigen können dann Anklage erheben. Wenn keine Ehrverletzung vorliegt, sind die Angehörigen von verstorbenen Personen aber machtlos.

Rechtsanwalt Martin Steiger bestätigte ebenfalls, dass es in der Schweiz keine speziellen Regulierungen bezüglich Deepfakes gibt. Bei der Darstellung von verbotener Gewalt oder harter Pornografie gelten aber allgemeine Straftatbestände.

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
In diesen Ländern gibt es bereits ein TikTok-Verbot
1 / 16
In diesen Ländern gibt es bereits ein TikTok-Verbot
Am 4. April 2023 verbannte Australien die TikTok-App von Regierungsgeräten – mit sofortiger Wirkung. Australien reihte sich damit in die wachsende Liste von Nationen ein, die Sicherheitsbedenken äusserten wegen der in chinesischem Besitz befindlichen Social-Media-Plattform.
quelle: shutterstock / peter galleghan
Auf Facebook teilenAuf X teilen
Beeindruckend: Schweizer KI-Künstler visualisiert die Geschichte des Krieges
Video: watson
Das könnte dich auch noch interessieren:
11 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Amateurschreiber
01.06.2023 10:55registriert August 2018
Der Tod ist endgültig. Egal ob jemand in meinem Umfeld friedlich oder gewaltsam gestorben ist, spätestens nach der Beerdigung muss ich wohl oder übel Abschied nehmen.
Das letzte, was ich dafür brauche, ist ein virtueller "Grabstein", mit dem man am Ende auch noch kommunizieren kann (Sprachbot).
Für Aussenstehende oder zur Darstellung historischer Personen mag das ja interessant sein. Aber als Angehöriger brauche ich sowas definitiv nicht!
250
Melden
Zum Kommentar
11
Google-Suche wird wegen KI immer schlechter – dieser Fall schlägt dem Fass den Boden aus
Während der Hype um ChatGPT und Co. weiterdreht, zeigen sich immer deutlicher die Kollateralschäden. Erschreckend: Die einstmals beste Suchmaschine ist nur noch ein Schatten ihrer selbst.

Ganz so schnell wie befürchtet wird künstliche Intelligenz (KI) wohl doch nicht die Weltherrschaft übernehmen und die Menschheit vernichten. Oder etwa doch?

Zur Story