Die Suche nach dem Mörder von Charlie Kirk beschäftigte viele Menschen weltweit, während das FBI für Hinweise 100'000 Dollar Belohnung versprach. Auf den Social-Media-Plattformen schossen die Spekulationen und Verschwörungstheorien ins Kraut. Dann kam zur toxischen Mischung generative KI hinzu.
watson hat sich auf Spurensuche begeben und geht auch der Frage nach, was das von Donald Trump nach der Bluttat veröffentlichte Video mit KI zu tun hat.
Nach dem tödlich verlaufenen Anschlag auf den rechtsextremen Politaktivisten Charlie Kirk lief die Suche nach dem oder den Tätern auf Hochtouren.
Update: Laut Trump wurde ein Tatverdächtiger gefasst.
Das Problem: Neben den professionellen Ermittlern wurden auch unzählige Internet-Detektive aktiv und versuchten, den Fall mithilfe von KI zu lösen.
Der Auslöser: Die US-Bundespolizei FBI veröffentlichte am Tag nach der Bluttat im Bundesstaat Utah mehrere Fotos, die von Überwachungskameras stammten.
Ausserdem wurde seitens des FBI eine Belohnung von 100'000 US-Dollar ausgelobt für Hinweise, die zur Identifizierung und Festnahme des Täters führen.
Es kam, wie es kommen musste: Bei den US-Strafverfolgungsbehörden ging eine Vielzahl von mehr oder weniger brauchbaren Hinweisen ein. Und auf den Social-Media-Plattformen eskalierte die Situation. Zahlreiche User veröffentlichten eigene «Täter-Bilder», die sie mit generativer KI angeblich «optimiert» hatten. Dieses Phänomen nennt sich «KI-Upscaling» und meint, dass Digitalfotos in schlechter Qualität, also mit geringer Bildauflösung, durch Algorithmen hochgerechnet werden.
Wut und der Frust sind bei den Trump-Anhängern nach der Erschiessung von Charlie Kirk riesig. Vereinzelt kam es schon zu Gewalttaten gegen Dritte, die sich kritisch zum getöteten Polit-Star geäussert hatten. Und in diesem höchst angespannten gesellschaftlichen Klima publizierten die Internet-Detektive ihre vermeintlich KI-optimierten Bilder zum gesuchten Verdächtigen.
KI-generierte Bilder sollten bei einer Fahndung auf keinen Fall als glaubhaftes «Beweismittel» verwendet werden, konstatiert die Tech-Site The Verge.
In der Vergangenheit habe KI-Upscaling beispielsweise dazu geführt, dass ein niedrig aufgelöstes Foto des früheren Präsidenten Barack Obama zu einem weissen Mann «entpixelt» wurde und Donald Trumps Kopf wurde eine nicht vorhandene Beule hinzugefügt.
Kommentatoren bei Reddit rufen den Fall des «Boston-Bombers» im Jahr 2013 in Erinnerung. Nachdem zwei in Rucksäcken versteckte Sprengsätze am Boston-Marathon drei Menschen töteten und Hunderte verletzten, kam es zu einer fragwürdigen Online-Hetzjagd.
Bei Reddit wurden mehrere unschuldige Personen fälschlicherweise als Verdächtige genannt, darunter ein Teenager mit arabischem Namen. Ein von Dritten hochgeladenes Foto, das ihn mit seinem Trainer zeigt, landete sogar in einer US-Boulevardzeitung. Die Reddit-Betreiber sahen sich veranlasst, sich für die «Online-Hexenjagd», wie sie es nannten, öffentlich zu entschuldigen.
Eine deutsche Journalistin brachte damals auf den Punkt, was offensichtlich heute noch gilt:
Den Usern die alleinige Schuld am aktuellen KI-Schlamassel rund um den Mordfall Charlie Kirk zu geben, ist jedoch falsch. Denn eigentlich stehen einmal mehr die KI-Anbieter und Tech-Konzerne hinter den Social-Media-Plattformen in der Verantwortung: Sie stellen die Technologie ohne nur im Ansatz ausreichende Schutzmechanismen zur Verfügung. Wegen des Profits.
Die Politik schaut dem Treiben scheinbar machtlos zu. Oder noch schlimmer: Hochrangige Politiker wie der US-Präsident Donald Trump treiben ihrerseits mit KI Schindluder und nutzen sie für ihre Zwecke ...
Das Weisse Haus behauptet, in einem Video, das Präsident Donald Trump am Mittwochabend nach der Ermordung von Charlie Kirk auf seiner eigenen Social-Media-Plattform Truth Social veröffentlicht hatte, sei keine generative KI zum Einsatz gekommen.
Bei Reddit haben sich mehrere User das Trump-Video vorgenommen und auf KI-Artefakte analysiert. Und sie weisen auf seltsame Videoschnitte, eine unkonventionelle Sprechweise von Donald Trump und andere verräterische Anzeichen von KI-Manipulation hin.
Das vierminütige Video zeigt einen an seinem Schreibtisch im Oval Office sitzenden Trump, der von einem Manuskript abliest, während sein Oberkörper weitgehend bewegungslos wirkt. Als der US-Präsident seine Hände bewegt, verschwindet von einer Bildsequenz zur nächsten plötzlich sein kleiner Finger.
Ein Reddit-User kommt in einer ausführlichen (und lesenswerten) Analyse zum Schluss, dass es drei plausible Erklärungen dafür gebe, was im Video passiert:
Der Reddit-User erklärt:
Dies würde «ein noch höheres Mass an Täuschung bedeuten», hält der Reddit-User fest – es gehe nicht nur darum, Trumps Rede zu beschönigen, sondern auch darum, den Gesichtsausdruck aktiv zu verändern, um Aufrichtigkeit oder Gelassenheit vorzutäuschen.
Seine Video-Analyse liefere keine direkten Beweise für diese Theorie, hält der Reddit-User fest. Sein Fazit:
Anzumerken bleibt, dass Trump und sein Social-Media-Team, darunter auch der Kommunikationsdirektor des Weissen Hauses, schon öfter generative KI nutzten, um für PR-Zwecke Bilder und Videos zu erstellen.
Man darf und man muss auch spekulieren dürfen, aber dies sollte innerhalb der jetzigen Faktenlage bleiben. Der Fall wird eh schon von den Republikanern pervertiert. Als die Demokratin samt Ehemann erschossen wurde, krähte kein Hahn bei den Republikanern. Sie heucheln nur über seinen Tod und giessen Öl ins Feuer.
Da bedarf es jetzt keiner Verschwörungstheorien oder Pseudobilder, die mit KI hergestellt wurden.