Digital
Samsung

Deepfakes: Samsung-Forscher entwickeln neue Technik

Deepfake-Technik erweckt Mona Lisa zum Leben – und bald dein Profilbild?

KI-Forscher in Russland haben ein System entwickelt, das realistisch animierte Gesichter erzeugen kann – aus wenigen Bildern.
24.05.2019, 07:5524.05.2019, 10:28
Mehr «Digital»

Forscher des Tech-Giganten Samsung haben ein neues System der Künstlichen Intelligenz (KI) entwickelt, um Deepfakes zu erstellen. Das sind am Computer fabrizierte Video-Clips, die Menschen so aussehen lassen, als würden sie Dinge tun oder sagen, die sie nie getan haben. Und die Technik erfordert dafür nur ein (1) Foto!

Es braucht nicht einmal ein Video von dir, damit du scheinbar Dinge gesagt hast, die du nie gesagt hast.
Wolfgang Blau, Condé Nast International

Die Forscher schreiben in ihrem wissenschaftlichen Aufsatz, dass lediglich 32 Fotos (Frames) erforderlich seien, um perfekte fotorealistische Modelle erzeugen zu können. Es geht aber auch mit weniger, wie das folgende Beispiel zeigt:

Die Forscher arbeiten in einer von Samsung finanzierten Forschungseinrichtung in Russland, berichtet CNet.

Wie funktioniert das?

Magie. 😂

Aber im Ernst: Die Computer-Wissenschaftler trainieren ein neuronales Netzwerk mithilfe eines riesigen Datensatzes, bzw. mit langen Videoaufnahmen von sprechenden menschlichen Köpfen. Das System wertet also jeweils viele Aufnahmen zu einem einzelnen Gesicht, respektive dessen Mimik, aus und lernt so die zugrunde liegenden Mechanismen. Das Gelernte kann dann mithilfe schlauer Algorithmen auf bis dato unbekannte neue Gesichter angewendet werden.

Das System nutzt auch das so genannte «Generative Adversarial Network», das heisst, es wird versucht, zwei Modelle gegeneinander auszuspielen.
Das System nutzt auch das so genannte «Generative Adversarial Network», das heisst, es wird versucht, zwei Modelle gegeneinander auszuspielen.screenshot: arxiv.org (pdf)

Je mehr Daten ihr System habe, desto besser, aber es könne auch mit nur einem Bild funktionieren – dem sogenannten «Single Shot»-Lernen. Das mache es möglich, Einstein oder Marilyn Monroe oder Mona Lisa zu fotografieren und sie wie eine echte Person bewegen und sprechen zu lassen.

Hier das wissenschaftliche Erklärvideo (mit eindrücklichen Beispielen)

Ab 3:40 folgen die eindrücklichen Animationen.Video: YouTube/Egor Zakharov

In einigen von den Forschern angeführten Beispielen variiere die Qualität und Offensichtlichkeit des gefälschten sprechenden Kopfes stark, konstatiert Tech Crunch. Artefakte seien allgegenwärtig, wenn man wisse, worauf zu achten sei.

Die Reaktionen

Bei Reddit zeigen sich viele User beeindruckt und begeistert. Es gibt aber auch kritische Stimmen, die auf das Missbrauchspotenzial einer solchen Technologie hinweisen. Im schlimmsten Fall würde es genügen, das Facebook-Profilbild zu kopieren, um ein Deepfake-Video eines Opfers zu erstellen.

Samsungs Software ist nicht frei verfügbar, könnte aber bald ihren Weg in die Hände von mehr Menschen finden.

Die rasante technische Entwicklung berge das Risiko von Fehlinformationen, Wahlmanipulationen und Betrug, warnte Hany Farid, eine Dartmouth-Forscherin, die sich auf Medienforensik spezialisiert hat, um Deepfakes zu erkennen.

Die Bezeichnung Deepfakes geht auf das Pseudonym eines Reddit-Users und Software-Entwicklers zurück. Der nicht namentlich bekannte Mann hat die Software «FakeApp» entwickelt, mit der sich Filmszenen aller Art manipulieren und die Gesichter der gefilmten Darsteller austauschen lassen. Was das Internet daraus machte, war logisch ...

Verwendete Quellen:

(dsc, via Twitter)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
So erkennt man gefälschte Euro-Banknoten
1 / 20
So erkennt man gefälschte Euro-Banknoten
In Deutschland ist immer mehr Falschgeld im Umlauf. Dabei sollten die echten Banknoten als solche zu erkennen sein, wenn man diese Tipps beherzigt...
quelle: keystone / martin ruetschi
Auf Facebook teilenAuf X teilen
Digitale Animationstechnik macht riesen Fortschritte
Video: srf
Das könnte dich auch noch interessieren:
14 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
nüme alli Nadle a de Tanne
24.05.2019 08:17registriert April 2019
Somit sind allerlei Fake-News Tür und Tor weit geöffnet 😮
711
Melden
Zum Kommentar
avatar
*Diesisteinzensurportal*
24.05.2019 08:48registriert Oktober 2018
Wie kann man als normaler Bürger über solche News begeistert sein? Eher das Gegenteil ist bei mir der Fall.
654
Melden
Zum Kommentar
avatar
Angie Ba Dänschi
24.05.2019 08:38registriert Dezember 2018
ich dachte immer, mona lisa hätte keine brauen... beim animieren hat sie diese plötzlich 🤷‍♀️
200
Melden
Zum Kommentar
14
Kein Cloud-Zwang, keine Abokosten: Microsoft Office 2024 kommt
Neben «Microsoft 365» wird der Konzern weiterhin eine Offline-Version seiner Office-Anwendung anbieten. Diese erscheint in doppelter Ausführung.

Microsoft will «Office 2024» und «Office LTSC 2024» noch in diesem Jahr veröffentlichen. Das hat der Konzern in einem Blogeintrag mitgeteilt. Während sich Office LTSC 2024 (Long-Term Servicing Channel) an Unternehmen und Organisationen in gewissen Nischen richtet (Geräte ohne Internetverbindung oder Embedded-Installationen wie im Medizinbereich), ist Office 2024 für private Konsumenten gedacht. Somit wird es auch künftig lokale Office-Installationen ohne Abogebühren, dafür mit herkömmlichen Updates für Word, Excel und PowerPoint geben.

Zur Story