Forscher des Tech-Giganten Samsung haben ein neues System der Künstlichen Intelligenz (KI) entwickelt, um Deepfakes zu erstellen. Das sind am Computer fabrizierte Video-Clips, die Menschen so aussehen lassen, als würden sie Dinge tun oder sagen, die sie nie getan haben. Und die Technik erfordert dafür nur ein (1) Foto!
Die Forscher schreiben in ihrem wissenschaftlichen Aufsatz, dass lediglich 32 Fotos (Frames) erforderlich seien, um perfekte fotorealistische Modelle erzeugen zu können. Es geht aber auch mit weniger, wie das folgende Beispiel zeigt:
Whoah this Mona Lisa example pic.twitter.com/8vWMCG3VoO
— Raph D'Amico (@raphdamico) May 22, 2019
Die Forscher arbeiten in einer von Samsung finanzierten Forschungseinrichtung in Russland, berichtet CNet.
Magie. 😂
Aber im Ernst: Die Computer-Wissenschaftler trainieren ein neuronales Netzwerk mithilfe eines riesigen Datensatzes, bzw. mit langen Videoaufnahmen von sprechenden menschlichen Köpfen. Das System wertet also jeweils viele Aufnahmen zu einem einzelnen Gesicht, respektive dessen Mimik, aus und lernt so die zugrunde liegenden Mechanismen. Das Gelernte kann dann mithilfe schlauer Algorithmen auf bis dato unbekannte neue Gesichter angewendet werden.
Je mehr Daten ihr System habe, desto besser, aber es könne auch mit nur einem Bild funktionieren – dem sogenannten «Single Shot»-Lernen. Das mache es möglich, Einstein oder Marilyn Monroe oder Mona Lisa zu fotografieren und sie wie eine echte Person bewegen und sprechen zu lassen.
In einigen von den Forschern angeführten Beispielen variiere die Qualität und Offensichtlichkeit des gefälschten sprechenden Kopfes stark, konstatiert Tech Crunch. Artefakte seien allgegenwärtig, wenn man wisse, worauf zu achten sei.
Bei Reddit zeigen sich viele User beeindruckt und begeistert. Es gibt aber auch kritische Stimmen, die auf das Missbrauchspotenzial einer solchen Technologie hinweisen. Im schlimmsten Fall würde es genügen, das Facebook-Profilbild zu kopieren, um ein Deepfake-Video eines Opfers zu erstellen.
Samsungs Software ist nicht frei verfügbar, könnte aber bald ihren Weg in die Hände von mehr Menschen finden.
Die rasante technische Entwicklung berge das Risiko von Fehlinformationen, Wahlmanipulationen und Betrug, warnte Hany Farid, eine Dartmouth-Forscherin, die sich auf Medienforensik spezialisiert hat, um Deepfakes zu erkennen.
Programmers be like pic.twitter.com/xKgm4Q457f
— BubbyHighRoller (@bubby_high) May 23, 2019
@montypython did it best pic.twitter.com/MHDc9mHAy1
— Richard Jacinto (@richgjaci) May 22, 2019
Die Bezeichnung Deepfakes geht auf das Pseudonym eines Reddit-Users und Software-Entwicklers zurück. Der nicht namentlich bekannte Mann hat die Software «FakeApp» entwickelt, mit der sich Filmszenen aller Art manipulieren und die Gesichter der gefilmten Darsteller austauschen lassen. Was das Internet daraus machte, war logisch ...
Verwendete Quellen:
(dsc, via Twitter)
