Digital
Samsung

Deepfakes: Samsung-Forscher entwickeln neue Technik

Deepfake-Technik erweckt Mona Lisa zum Leben – und bald dein Profilbild?

KI-Forscher in Russland haben ein System entwickelt, das realistisch animierte Gesichter erzeugen kann – aus wenigen Bildern.
24.05.2019, 07:5524.05.2019, 10:28
Mehr «Digital»

Forscher des Tech-Giganten Samsung haben ein neues System der Künstlichen Intelligenz (KI) entwickelt, um Deepfakes zu erstellen. Das sind am Computer fabrizierte Video-Clips, die Menschen so aussehen lassen, als würden sie Dinge tun oder sagen, die sie nie getan haben. Und die Technik erfordert dafür nur ein (1) Foto!

Es braucht nicht einmal ein Video von dir, damit du scheinbar Dinge gesagt hast, die du nie gesagt hast.
Wolfgang Blau, Condé Nast International

Die Forscher schreiben in ihrem wissenschaftlichen Aufsatz, dass lediglich 32 Fotos (Frames) erforderlich seien, um perfekte fotorealistische Modelle erzeugen zu können. Es geht aber auch mit weniger, wie das folgende Beispiel zeigt:

Die Forscher arbeiten in einer von Samsung finanzierten Forschungseinrichtung in Russland, berichtet CNet.

Wie funktioniert das?

Magie. 😂

Aber im Ernst: Die Computer-Wissenschaftler trainieren ein neuronales Netzwerk mithilfe eines riesigen Datensatzes, bzw. mit langen Videoaufnahmen von sprechenden menschlichen Köpfen. Das System wertet also jeweils viele Aufnahmen zu einem einzelnen Gesicht, respektive dessen Mimik, aus und lernt so die zugrunde liegenden Mechanismen. Das Gelernte kann dann mithilfe schlauer Algorithmen auf bis dato unbekannte neue Gesichter angewendet werden.

Das System nutzt auch das so genannte «Generative Adversarial Network», das heisst, es wird versucht, zwei Modelle gegeneinander auszuspielen.
Das System nutzt auch das so genannte «Generative Adversarial Network», das heisst, es wird versucht, zwei Modelle gegeneinander auszuspielen.screenshot: arxiv.org (pdf)

Je mehr Daten ihr System habe, desto besser, aber es könne auch mit nur einem Bild funktionieren – dem sogenannten «Single Shot»-Lernen. Das mache es möglich, Einstein oder Marilyn Monroe oder Mona Lisa zu fotografieren und sie wie eine echte Person bewegen und sprechen zu lassen.

Hier das wissenschaftliche Erklärvideo (mit eindrücklichen Beispielen)

Ab 3:40 folgen die eindrücklichen Animationen.Video: YouTube/Egor Zakharov

In einigen von den Forschern angeführten Beispielen variiere die Qualität und Offensichtlichkeit des gefälschten sprechenden Kopfes stark, konstatiert Tech Crunch. Artefakte seien allgegenwärtig, wenn man wisse, worauf zu achten sei.

Die Reaktionen

Bei Reddit zeigen sich viele User beeindruckt und begeistert. Es gibt aber auch kritische Stimmen, die auf das Missbrauchspotenzial einer solchen Technologie hinweisen. Im schlimmsten Fall würde es genügen, das Facebook-Profilbild zu kopieren, um ein Deepfake-Video eines Opfers zu erstellen.

Samsungs Software ist nicht frei verfügbar, könnte aber bald ihren Weg in die Hände von mehr Menschen finden.

Die rasante technische Entwicklung berge das Risiko von Fehlinformationen, Wahlmanipulationen und Betrug, warnte Hany Farid, eine Dartmouth-Forscherin, die sich auf Medienforensik spezialisiert hat, um Deepfakes zu erkennen.

Die Bezeichnung Deepfakes geht auf das Pseudonym eines Reddit-Users und Software-Entwicklers zurück. Der nicht namentlich bekannte Mann hat die Software «FakeApp» entwickelt, mit der sich Filmszenen aller Art manipulieren und die Gesichter der gefilmten Darsteller austauschen lassen. Was das Internet daraus machte, war logisch ...

Verwendete Quellen:

(dsc, via Twitter)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
So erkennt man gefälschte Euro-Banknoten
1 / 20
So erkennt man gefälschte Euro-Banknoten
In Deutschland ist immer mehr Falschgeld im Umlauf. Dabei sollten die echten Banknoten als solche zu erkennen sein, wenn man diese Tipps beherzigt...
quelle: keystone / martin ruetschi
Auf Facebook teilenAuf X teilen
Digitale Animationstechnik macht riesen Fortschritte
Video: srf
Das könnte dich auch noch interessieren:
14 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
nüme alli Nadle a de Tanne
24.05.2019 08:17registriert April 2019
Somit sind allerlei Fake-News Tür und Tor weit geöffnet 😮
711
Melden
Zum Kommentar
avatar
*Diesisteinzensurportal*
24.05.2019 08:48registriert Oktober 2018
Wie kann man als normaler Bürger über solche News begeistert sein? Eher das Gegenteil ist bei mir der Fall.
654
Melden
Zum Kommentar
avatar
Angie Ba Dänschi
24.05.2019 08:38registriert Dezember 2018
ich dachte immer, mona lisa hätte keine brauen... beim animieren hat sie diese plötzlich 🤷‍♀️
200
Melden
Zum Kommentar
14
Nvidia präsentiert neuen «KI-Superchip»
Der Chipkonzern Nvidia will die führende Rolle bei Technik für Anwendungen mit Künstlicher Intelligenz mit einer neuen Generation seiner Computerplattform ausbauen.

Nvidia sieht das System mit dem Namen Blackwell als «Antrieb einer neuen industriellen Revolution» durch KI. Das System sei beim Anlernen von Künstlicher Intelligenz vier Mal leistungsstärker als die aktuelle Generation Grace Hopper.

Zur Story