Der Bub fährt mit seinem Kindervelo mitten durch den noch weichen Belag einer neuen Strasse. Ein anderes Kind nimmt Entenküken aus einem Nest und spaziert mit der Entenmutter davon. Eine Katze sitzt in einem Nest neben Schwalben. Eine Überwachungskamera filmt einen Löwen, der in einem Supermarkt die Fleischabteilung plündert.
Es ist erstaunlich, was alles auf der Welt tagtäglich passiert. Seit es Social Media gibt, erfahren wir die verrücktesten Zufälle und Unfälle. Herzerweichende Szenen, die nicht mal Hollywood eingefallen wären. So ist sie eben, die Realität: stranger than fiction. Als der gleichnamige Film mit Emma Thompson des Schweizer Regisseurs Marc Forster 2006 erschien, war Facebook gerade gegründet worden. Seither sind Milliarden von Filmchen gepostet worden, beste Unterhaltung von der Realität, zufällig gefilmt von Handys oder Überwachungskameras.
Allerdings: Die Überwachungskamera, die den Löwen in der Fleischabteilung gefilmt hat, gibt es nicht. Das ganze Video ist eine Erfindung, eine Fälschung eines Facebook-Nutzers mit dem Namen «Ataques Feroz», zu Deutsch: grausamer Angriff. Auf Instagram hat er das Video als KI-deklariert. So was Krasses ergibt Views, die harte Währung auf Social Media. Der Löwe erscheint daher wenig überraschend noch andernorts auf Facebook – mit gigantischen 157 Millionen Views.
Vor einem Monat hat Google seinen eigenen KI-Filmgenerator Veo 3 präsentiert. Der schafft nicht nur künstliche Schauspieler, sondern liefert auch noch den Sound dazu. Man kann Filme neu schaffen oder echte Aufnahmen verändern. Seither werden die Social-Media-Kanäle deutlich stärker mit KI-Fakes geflutet.
Manchmal erkennen die Nutzer, dass KI dahintersteckt, manchmal nicht. Anders als das Löwen-Video ist jenes mit den Entenküken einfacher zu entlarven. Es stammt von einer Frau deren Konto voll ist mit lustigen Fakes: Ein Wasserbüffel springt auf einen Töff und fährt davon, ein Staubsauger mit einem Menschenmaul putzt eine Wohnung. Aber wenn man nur ein einzelnes Video sieht, kann man trotzdem reinfallen. Jemand schreibt zum Küken-Video: «Ich liebe es, zuzusehen, wenn Kinder mit Tieren in Kontakt kommen. Es ist immer so herzig und lustig.»
Wo führt das hin, wenn Realität und Fiktion verschwimmen? Tobias Dienlin, Professor für Medienforschung an der Uni Zürich sagt: «In einem ersten Schritt werden die Nutzer vorsichtiger.» «Seeing is believing», die berühmte Aussage, gelte nun nicht mehr. Vielleicht könne man die User mit Fakes nicht bei der Stange halten – doch das ist egal, es gibt Millionen andere mehr. «Fakes können sich für die Ersteller der Videos daher dennoch finanziell lohnen», sagt Dienlin.
Ausserdem: «Ob echt oder fake – der Kick kommt trotzdem.» Das sagt Andreas Fahr, Professor am Departement für Kommunikationswissenschaft und Medienforschung der Uni Freiburg. Das Publikum reagiere immer zuerst emotional – etwa mit Humor, Überraschung oder Rührung.
Doch was hat es für Auswirkungen, wenn man später merkt, dass man reingelegt wurde? «Dann reagiert man möglicherweise mit Frustration oder stumpft ab», sagt Fahr. «Das kann zur Erosion von Vertrauen führen. In Kombination mit der Kommerzialisierung könnte das langfristig die Plattformloyalität untergraben – besonders bei kritischeren Zielgruppen.» Diese Nutzer werden sich bewusst vertrauenswürdigere Kanäle suchen, wo Beiträge geprüft werden, wie bei den klassischen Medien. Oder sie klicken nur noch auf Beiträge, die mit Echtheits-Labels versehen sind – obwohl natürlich auch diese gefälscht werden können.
Aber nicht alle dürstet es nach Wahrheit. Fahr sagt: «Ein anderer Teil wird sich weiter berieseln lassen – ob die Katze wirklich Klavier spielt oder nur KI ist, ist egal, solange es unterhält.» Das erinnert ans Reality-TV aus den 2000er-Jahren: «Da wurden die Szenen vorgegeben. Es war bekannt, das Publikum wollte es aber nicht so genau wissen. Es war ein kollektives Mitspielen.»
Sich einfach unterhalten zu lassen, das funktioniert besonders gut bei lustigen Videos, wie einem, das mit Katzen viral ging: Sie vollführen Kunstsprünge ab dem Sprungbrett ins Schwimmbecken. Unterhaltsam. Harmlos.
Es gibt auch krassere Inszenierungen. Ein Facebook-Nutzer namens Paul Vu postet gerne Filmchen, in denen Krokodile jemanden angreifen. Zum Beispiel eines, in dem ein junger Elefant und eine Parkwächterin zwischen die Zähne des Reptils geraten. Schliesslich wird es von der Elefantenmutter durch die Luft gewirbelt und besiegt. Vu liefert stets ein Happy End, wie in einem Video, wo ein Gorilla ein Menschenbaby vor Krokodilen rettet, die sich anschleichen.
Man kann auch das unterhaltsam finden. Aber kann man, wenn sich auf Facebook, Tiktok und Co. echte Begebenheiten und gefakte Videos mischen, blosser Konsument bleiben? Wird man nicht zwangsläufig zum Detektiv, der sich ständig fragen muss: Ist das jetzt echt?
Wer weiss das schon, die echte Welt ist genauso verrückt. Wer kann mit Sicherheit sagen, dass nicht irgendwo eine Katze in einem Nest mit Schwalben sitzt?
Zeit für einen kurzen Test: Was ist echt an folgender Fotoserie voller schöner Fotos? Manche sind es vielleicht, aber sicher nicht die Ameise, die einen Regentropfen stösst:
Das stammt von einer Website namens Foyxed, die sich laut eigenen Worten zur Aufgabe gemacht hat, «das Beste aus der Cyberwelt zu zeigen, das inspiriert, motiviert und das Leben erhellt». Wahrheit ist keine Bedingung.
Zuerst ist es spannend, die Fakes zu entlarven, mit der Zeit wird es ermüdend. Und das könnte Facebook und Co. schaden. Denn die KI-Fakes sind auch auf Posts, wo es um Wissen geht. Zum Beispiel schreibt jemand mit dem Facebook-Namen «Historical & Archaeology» einen Beitrag über schwarze Cowgirls im amerikanischen Westen. Die User kommentieren: «Respekt für diese Frauen!» oder «guter Geschichtsartikel!». Doch im Text gibt es weder Jahresangaben noch Quellen, und das Schwarz-Weiss-Foto ist fake: Der Gurt der Frau endet mitten im Rock, im Steigbügel des Pferdes steckt ein Schuh ohne Reiter, ein Zügel endet im Nichts.
Manchmal stimmen die Posts auf Social Media auch, bloss das Bild ist gefakt. Wie bei der Geschichte einer Familie, die 1978 versteckt in Sibirien wurde. Das Facebook-Account «The History Page» hat sie abgekupfert von einem echten Magazin. Auf Facebook wurde ein Foto dazu erfunden, der Mann sieht echt aus, nur seine Jacke hat seltsame Taschen und die Blockhütte besteht aus einem Wirrwarr von Stämmen. Als KI-Illustration sind die Bilder auf diesem Account nie deklariert.
Laetitia Ramelet sieht noch ein grösseres Problem als Frust und Abstumpfung. Sie ist politische Philosophin und bei der Technologie-Stiftung TA-Swiss für Deepfakes und Sprachmodelle zuständig. Sie sagt: «Wer zu viele solcher falschen Videos konsumiert, könnte ein falsches Bild der Realität erhalten, von dem, was möglich ist. Das kann gefährlich werden.» Sie denkt an halsbrecherische Kunststücke, bei denen nicht abgeschätzt werden kann, ob sie fake sind oder nicht. Wieder einmal ist die Bildschirmzeit relevant: Gerade Kinder und Jugendliche müssen laut Ramelet genug Zeit haben, die echte Welt kennenzulernen, um Realistisches von Unrealistischem unterscheiden zu können.
Das User teilweise nicht mehr erkennen, was möglich und unmöglich ist, befürchten auch die Tierliebhaber des US-Medienkanals «The Dodo»: Sie haben ein Video aufgegriffen, das 130 Millionen Views auf Tiktok machte – weil ein Eisbärenbaby aus dem Wasser gerettet wurde, scheinbar. Es ist zwar als KI-Video deklariert, aber viele erkannten das nicht. Fake-Tierrettungsvideos sind extrem beliebt. «Das könnte die Leute dazu ermuntern, sich gefährlichen Tieren anzunähern», warnt «The Dodo». Schlimmer ist: So würden die User von den echten, weniger leicht lösbaren Problemen in der Tierwelt abgelenkt. Ein geretteter Eisbär löst das Problem der Klimaerwärmung nicht.
Natürlich ist nicht alle KI schlecht: Deepfakes können auch kreativ machen. Ramelet sieht gerade bei der Motivation fürs Fach Geschichte die KI als gutes Instrument: «Wenn man Cleopatra sprechen lassen kann, packt das die Schülerinnen und Schüler vielleicht mehr als ein trockener Text.» Solche Anwendungen und Szenarien schlägt TA-Swiss in ihrer Studie von 2024 «Deepfakes und manipulierte Realitäten» vor.
Aber falsche historische Bilder oder Daten, das gehe natürlich nicht, sagt Ramelet. Geschichte war schon immer anfällig für Verdrehungen oder das Auslassen wichtiger Details. Früher brauchte es dafür einigen Aufwand, heute reicht ein KI-Tool.
Auf die Frage, wo das alles endet, sagt Ramelet: «Prognosen sind wirklich schwierig. Wir müssen Wege finden, damit umzugehen.» Es werden nicht nur seriöse Medien wieder wichtiger, sondern auch die Posts von echten Freunden. Das wäre dann «Small-Scale Social Media», wie es Andreas Fahr nennt: private Gruppen, lokale Inhalte, Nahbeziehungen. Das düsterste Szenario ist die Informations-Apokalypse. Wenn also niemand mehr irgendwas glaubt. «Im Moment sehen wir das aber nicht», sagt Ramelet.
KI wird Social Media wohl nicht zerstören – aber sie wird sie verändern. Und sicher ist, dass die KI-Fakes gerade schwer in Mode sind und das nicht so bleiben muss. Ramelet fragt: «Haben wir in zehn Jahren immer noch so viel Spass daran?» Jetzt hätten all die Videos und Fake-Fotos noch einen Überraschungseffekt, doch der nütze sich ab. Dann muss sich die Tech-Industrie wieder auf die Suche nach dem nächsten grossen Ding machen, das alles verändert.
(aargauerzeitung.ch)
Und ja. Die SVP ist brandgefährlich.
Man kann es nicht oft genug wirderholen.