DE | FR
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Wiens Bürgermeister Michael Ludwig beim Videochat mit dem Fake-Klitschko.
Wiens Bürgermeister Michael Ludwig beim Videochat mit dem Fake-Klitschko.screenshot: twitter

«Cheap Fake» statt Deep-Fake – was wirklich hinter dem falschen Vitali Klitschko steckt

In mehreren europäischen Hauptstädten herrscht seit letzter Woche Aufregung. Wie konnte man auf einen Betrüger hereinfallen, der sich in einer Videoschaltung als ukrainischer Bürgermeister ausgab?
27.06.2022, 18:5804.07.2022, 19:51

Ein Unbekannter gab sich in betrügerischen Fake-Videoschaltungen mit hochrangigen Politikerinnen und Politikern als Vitali Klitschko, Bürgermeister von Kiew, aus.

Getäuscht wurden Berlins Bürgermeisterin Franziska Giffey sowie die Bürgermeister von Madrid und Wien, José Luis Martínez-Almeida und Michael Ludwig.

Ob auch andere westeuropäische Exekutivpolitikerinnen und -politiker attackiert wurden, ist nicht bekannt.

Mehr als fraglich ist, ob es sich um eine Deepfake-Attacke handelte. Als «Deepfakes» bezeichnet man realistisch wirkende, gefälschte Medieninhalte – insbesondere Videos –, die durch Computer-Algorithmen generiert wurden. Denn es gibt keine Beweise für eine aufwendig konzipierte Cyberattacke mithilfe künstlicher Intelligenz (KI).

Wie wir dank der Recherchen deutscher Journalisten wissen, deutet einiges auf eine simple Betrugsmasche hin. Das lässt die Betroffenen allerdings nicht besser dastehen.

«Cheap Fake» statt Deepfake?

«Es gab keine Anhaltspunkte dafür, dass die Videokonferenz nicht mit einer echten Person geführt wird. Allem Anschein nach handelt es sich um Deep Fake.»
Mitteilung aus dem Berliner Rathaus

Die Vermutung, dass es sich um eine Deepfake-Attacke handelte, äusserte die Berliner Senatskanzlei am vergangenen Freitag via Twitter. Und diese Darstellung wurde im In- und Ausland weiterverbreitet. Schnell und ungeprüft.

Das Problem der Journalistinnen und Journalisten: Ihnen lag kein Video-Beweismaterial vor – nicht aus Berlin, Madrid oder Wien. Es gab nur ein paar wenige Screenshots.

«Ein sogenannter Deepfake wäre sicherlich die spektakulärste mögliche Erklärung dafür, dass Klitschko aussah und klang, wie er nun einmal aussieht und klingt.»
Erklärungsversuch des Nachrichtenmagazins «Der Spiegel»

Dem deutschen Investigativjournalisten Daniel Laufer (ARD) liess der Erklärungsversuch keine Ruhe. Er beschäftigte sich in der Folge intensiv mit den Informationen, die aus dem Berliner Rathaus veröffentlicht worden waren.

Bei YouTube spürte Laufer ein Interview mit dem Kiewer Bürgermeister von Anfang April auf. Dieses könnte als digitales Ausgangsmaterial für den Betrug gedient haben, denn es zeigt Vitali Klitschko mit der gleichen Kleidung und vor dem gleichen Hintergrund wie bei der Fake-Schaltung.

So gingen die Kriminellen (mutmasslich) vor:

1 / 19
Kriminelle täuschen Politiker mit falschem Vitali Klitschko
quelle: keystone / markus schreiber
Auf Facebook teilenAuf Twitter teilenWhatsapp sharer

Das Nachrichtenmagazin «Spiegel» fasst Laufers Theorie wie folgt zusammen: Die Kriminellen hätten wohl einzelne Videoschnipsel aus dem Original-Video «schlau vorgeschnitten» und sie während der Videokonferenz mit den europäischen Bürgermeistern in Echtzeit neu zusammengesetzt.

Wahrscheinlich wurden die Bewegtbilder des damaligen Interviews (auf Russisch) als Grundlage verwendet und in Echtzeit mit dem Gesprochenen und den Lippenbewegungen desjenigen zusammengeführt, der dann tatsächlich mit der Bürgermeisterin sprach. Fachleute bezeichnen dies als «Face Reenactment», schreibt die Nachrichtenagentur SDA.

Cheap Fake und Deepfake
Ein «Cheap Fake» (billige Fälschung) ist ein digitaler Medieninhalt, ein Bild oder Video, das mit relativ wenig Aufwand am Computer abgeändert wurde. Ein bekanntes Beispiel betraf die US-Politikerin Nancy Pelosi. In einem von ihren politischen Gegnern manipulierten Interview wirken ihre Äusserungen so, als wäre die US-Demokratin betrunken, oder nicht im Vollbesitz ihrer geistigen Kräfte. Dabei wurde lediglich das Video verlangsamt abgespielt.

Im Gegensatz dazu erfordern Deepfake-Videos einen viel grösseren Aufwand und sind schwieriger zu erstellen. Es wird nicht wie mit einem Bildbearbeitungsprogramm einfach ein Gesicht auf ein anderes kopiert, sondern durch spezielle Algorithmen ein neues geformt. Dazu braucht es ein künstliches neuronales Netz, das durch Referenzmaterial zunächst lernen muss, wie das zu formende Gesicht auszusehen hat, um es dann selbst zu erzeugen.

Neben den Bewegtbildern benötigt man zur Erstellung eines derartigen Deepfakes das ursprüngliche Video, in das das künstliche generierte Gesicht eingefügt werden soll, sowie die manipulierte Tonspur (passend zur Mimik).

Was den Angreifern beim Überlisten der Verantwortlichen in Berlin entscheidend half: Zu Beginn der Konferenzschaltung fragten sie offenbar, ob das Gespräch auf Russisch stattfinden und übersetzt werden könne. Die Berliner Bürgermeisterin willigte ein. Und es erscheint nachvollziehbar, dass sie in der Folge relativ wenig auf die Stimme ihres Gesprächspartners achtete, da sie der Übersetzung folgen musste.

Wiener Bürgermeister ahnungslos
Am vergangenen Mittwoch telefonierte auch der Wiener Bürgermeister Michael Ludwig mit dem falschen Vitali Klitschko und twitterte anschliessend darüber. Einer ORF-Journalistin sagte er am Samstag, der Anrufer habe auf Englisch gesprochen. Gegen Ende sei der angebliche Klitschko fordernder aufgetreten. Man habe deshalb das Gespräch beendet, aber es sei dennoch kein Zweifel aufgekommen. Die E-Mail-Adressen, über die das Gespräch vorbereitet wurde, hätten vertrauenswürdig gewirkt.

Zur Deepfake-Theorie hat der «Spiegel» einen Experten für die automatische Verarbeitung von Sprache, Bildern, Videos und Musik befragt. Florian Gallwitz, Informatik-Professor an der Technischen Hochschule Nürnberg, sagte:

«Grundsätzlich wären die Technologien heute schon vorhanden, um die Mimik und Lippenbewegungen einer Person in einem Video zu manipulieren, gegebenenfalls auch deren Stimme. Diese Technologien sind aber noch fragil, schwer zu bedienen und ihr Ergebnis wirkt oft wenig überzeugend. In Echtzeit wäre das dazu eine ganz besondere Herausforderung. Deshalb würde ich in diesem und in vergleichbaren Fällen immer erst von einfacheren Tricks ausgehen.»
quelle: spiegel.de

Die Frage, ob ein Deepfake in solch einer Live-Situation so täuschend echt umgesetzt werden könne, dass sich ein geübtes Auge davon täuschen lasse, bleibe zumindest vorläufig unbeantwortet, konstatierten die Kollegen von T-Online.

Versuche des ARD-«Mittagsmagazins», ein glaubwürdiges Deep-Fake-Video zu generieren, sind offenbar gescheitert, wie die deutsche Journalistin Svea Eckert am Montag twitterte. Und selbst «sehr gute Deepfakes», mit Personen, von denen es stundenlanges Rohmaterial gebe, würden durch Bildstörungen (Artefakte), «vor allem an den Rändern», auffallen.

Waren's überhaupt die Russen?

Dazu gibt's keine gesicherten Erkenntnisse.

Erst kürzlich hat ein berüchtigtes russisches Comedy-Duo namens Vovan und Lexus international für Schlagzeilen gesorgt, indem sie die Bestseller-Autorin J. K. Rowling (Harry Potter) mit einem Fake-Anruf täuschten. Dies berichtete die «Washington Post» am vergangenen Freitag (24. Juni).

Die selbsternannten «Prankster» (Streichspieler) unterstützen den russischen Diktator Wladimir Putin und gaukelten der Harry-Potter-Erfinderin ein Telefongespräch mit dem ukrainischen Präsidenten Wolodymyr Selenskyj vor.

Dass die Russen die Deepfake-Technik grundsätzlich beherrschen und im Informationskrieg gegen den Westen auch einsetzen, wissen wir spätestens seit März 2022. Da teilte der Meta-Konzern, die Muttergesellschaft von Facebook, mit, dass man «ein Deepfake-Video» von den eigenen Plattformen entfernt habe: ein Clip mit einem gefälschten Präsidenten Selenskyj, mit einer Erklärung, «die er nie abgegeben hat».

Warum sind solche Vorfälle gefährlich?

Weil sie das Vertrauen in Politikerinnen und Politiker mit Regierungsverantwortung untergraben.

Der russische Diktator Wladimir Putin führt nicht nur einen Vernichtungskrieg gegen die Ukraine, sondern auch einen Informationskrieg gegen den Westen. Sein Ziel ist es, die Bevölkerung zu spalten und Staaten zu destabilisieren.

Mit der Fake-Videoschaltung ist es den unbekannten Kriminellen gelungen, die politischen Verantwortungsträger in gleich drei europäischen Städten in Verruf zu bringen. Spott und Häme liessen nicht lang auf sich warten.

screenshot: twitter

Durch «digitale Kriegsführung» solle wohl das Vertrauen in die Politik erschüttert und die Ukraine und ihre Unterstützer diskreditiert werden, mahnte der Wiener Bürgermeister. Und weiter: Man werde Massnahmen treffen, «um dieser neuen Form der Cyberkriminalität künftig zu begegnen».

Welche Konsequenzen hat die Attacke?

Es gibt die juristische Ebene: Der österreichische Verfassungsschutz und andere Institutionen haben laut Medienberichten Ermittlungen eingeleitet. In Deutschland untersucht der für politisch motivierte Straftaten zuständige Staatsschutz der Kriminalpolizei. Ob daraus Strafverfahren gegen die bis dato unbekannten Täter resultieren werden, ist fraglich.

Dann gibt's noch die politische Ebene.

Berufspolitikerinnen und Berufspolitiker und ihre Berater sind bemüht um gute PR. Darum verwundert es nicht, dass gleich in mehreren westeuropäischen Hauptstädten auf das angeblich aus Kiew kommende, verlockende Gesprächsangebot des falschen Vitali Klitschko eingegangen wurde.

Dabei hätten in den Rathäusern alle Alarmglocken läuten sollen. Die Anfrage kam nicht von einer offiziellen ukrainischen E-Mail-Adresse (mit Top-Level-Domain «.ua», sondern vom Absender mayor.kyiv@ukr.net. Und offensichtlich wurde weder die Authentizität der angeblich anfragenden Person geklärt, noch wurden die Gesprächsdetails verbindlich festgelegt. Dies führte dazu, dass die von ihrem Gegenüber überrumpelten Westeuropäer einwilligten, das Gespräch auf Russisch zu führen, unter Beizug eines Dolmetschers. Ein Dolmetscher, den die Angreifer selber zur Verfügung stellten ...

Das letzte Wort soll aber der echte Vitali Klitschko haben. Der Bürgermeister von Kiew zeigte am Samstag in einer kurzen Videobotschaft, wie man professionell auf solche Attacken reagiert. Der kriegserprobte Politiker und frühere Box-Champion rief die offiziellen Kommunikationskanäle in Erinnerung, über die man ihn sicher kontaktieren könnte. Und wichtig: Er brauche bei Gesprächen mit Amtskolleginnen und Amtskollegen aus Westeuropa keinen Dolmetscher.

«Ich brauche nie einen Übersetzer.»
Vitali Klitschko, Bürgermeister von Kiew

Quellen

Mit Material der Nachrichtenagentur Keystone-SDA

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.

Die gefährlichsten Cyberwaffen und ihre Folgen

1 / 15
Die gefährlichsten Cyberwaffen und ihre Folgen
Auf Facebook teilenAuf Twitter teilenWhatsapp sharer

Weil Deepfakes machen so einfach ist, haben wir es ausprobiert

Video: watson

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

46 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Quizmachine
27.06.2022 19:36registriert Februar 2020
Dass die reingelegten Politiker während dem Anruf nicht so auf Zack waren, ist weit weniger bedenklich als die Tatsache, dass sie einem unbekannten E-Mail-Absender vertraut haben. Das gehört zur elementarsten IT-Sicherheit und öffnet noch ganz anderen Angriffen Tür und Tor.
1752
Melden
Zum Kommentar
avatar
Else
27.06.2022 19:31registriert August 2017
Haarsträubend, welche Risiken ein paar Bürgermeister auf sich nehmen nur um ihre Profilierungssucht zu befriedigen.
11710
Melden
Zum Kommentar
avatar
Duftender_Teppich
27.06.2022 19:26registriert Juni 2020
Dass immer noch nicht klar ist, dass nur über offizielle Kanäle kommuniziert werden soll, finde ich schon traurig und bedenklich. Klar könnte die ukrainische Infrastruktur übernommen worden sein, aber inoffiziellen Kanälen zu glauben, ist schon schwierig...

Geht für mich in die Dichtung eines klassischen Phishing-Angriffs mit anderem Ausgang.
914
Melden
Zum Kommentar
46
Russland annektiert ukrainische Gebiete – das Nachtupdate ohne Bilder

In einem international nicht anerkannten Verfahren will Russlands Präsident Wladimir Putin an diesem Freitag vier ukrainische Gebiete annektieren. In der Nacht erkannte der Kremlchef in einem weiteren völkerrechtswidrigen Akt die besetzten ukrainischen Gebiete Cherson und Saporischschja als unabhängige Staaten an. Aus Moskaus Sicht gilt dies als Voraussetzung dafür, dass die Regionen ihre Aufnahme in die Russische Föderation beantragen können. Die Annexion auch der Gebiete Luhansk und Donezk soll bei einem Festakt mit Russlands Machtelite im Kreml besiegelt werden.

Zur Story