Ein Knopfdruck und alle Kleider verschwinden. Was wie ein schlechtes Drehbuch aus einem schmuddligen 80er-Jahre-Erotikfilm klingt, ist längst Tatsache. Mit sogenannten Nudify-Apps und -Sites kann mittels künstlicher Intelligenz aus jedem harmlosen Porträt-Bild ein Aktfoto gemacht werden. Die Resultate sind dabei erschreckend realistisch.
«Seh endlich deine Nachbarin nackt.» Unter anderem mit solchen Slogans warben mehrere Anbieter sehr offensiv auf Social Media. Mittlerweile hat hier teilweise Selbstregulierung gegriffen und die Werbung ist weniger geworden oder gar verschwunden. Das Problem ist damit aber noch nicht gelöst: Noch immer gibt es Dutzende Websites und Applikationen, die Nacktheit per Klick anbieten.
Nun versucht eine breite Allianz im Parlament die KI-Nacktbilder zu stoppen. Nina Fehr Düsel (SVP/ZH) und Raphaël Mahaim (Grüne/VD) haben gleichlautende Vorstösse eingereicht und dafür Unterstützer aus allen Parteien gefunden. Dabei soll die Verbreitung der entwürdigenden Nudify-Apps eingeschränkt werden.
Konkret soll «das Bewerben, Verkaufen oder Zugänglichmachen von Apps und digitalen Diensten», die mittels KI Nacktbilder generieren, verboten oder technisch verunmöglicht werden. Damit greifen die Motionäre direkt die Urheber an. Damit soll präventiv ein möglicher Missbrauch verhindert werden, wie Nina Fehr Düsel ausführt.
Für den Missbrauch selbst gibt es Regeln: Wer heute ein Nacktbild von seiner Nachbarin oder seinem Nachbarn erstellt und dieses versendet, macht sich bereits heute strafbar. Und für Betroffene sei die Weiterverbreitung «extrem belastend». Ist ein Nacktbild mal im Umlauf – egal ob echt oder nicht – ist es kaum mehr kontrollierbar. Da hilft auch eine Verurteilung des Urhebers nur wenig.
Für Fehr Düsel geht es darum, «ein Zeichen» zu setzen gegen die gefährlicheren Seiten der künstlichen Intelligenz. Diese bringe zwar «viele Vorteile und sinnvolle Anwendungen», aber auch einiges an Missbrauchsmöglichkeiten. Die Zürcher Nationalrätin ist Realistin und weiss, dass die Technik meist schneller voranschreitet und der rechtliche Rahmen immer etwas hinterherhinkt. Hier erhofft sie sich aber eine Grundlage, die auch künftige Missbräuche mit anderen technischen Mitteln unterbindet oder zumindest einschränkt.
Ihr selbst ist Werbung für solche Nudify-Apps aufgefallen, als ihre Kinder kurz auf sozialen Medien unterwegs waren. Das könne nicht sein, sagt die Juristin. Es gebe heute die Möglichkeiten, solche Werbung gezielt zu verbieten und auch dafür zu sorgen, dass Seiten, die solche Inhalte anbieten, rasch aus dem Verkehr gezogen werden.
Gerade Kinder und Jugendliche seien besonders betroffen vom Missbrauch durch solche Apps, sagt Regula Bernhard Hug, Leiterin von Kinderschutz Schweiz. Die Organisation betreibt auch die Online-Meldestelle clickandstop.ch, auf der man pädokriminelles Material melden und Auskunft und Beratung erhalten kann. Auch hier haben die Verantwortlichen vermehrt mit künstlich generiertem Material zu tun.
Bernhard Hug weiss von zahlreichen Fällen in der Schweiz, bei denen Jugendliche mit solchen per KI erstellten Fotos erpresst wurden. Dabei verschaffen sich die Täter via soziale Medien Zugriff auf Fotos der Opfer, erstellen solche Fakes und versuchen damit Geld zu erpressen. Oder sie versuchen, mit dem Fake-Material echtes Material zu erpressen. Also: Ich verbreite das Fake-Nacktbild im Netz, wenn du mir kein echtes Nacktbild schickst.
In beiden Fällen treffe es Jugendliche oft in einer fragilen Zeit, bei der mit Pubertät und der allgemeinen Sinnsuche gehadert wird. «So eine Erpressung kann zu grossen Krisen führen», sagt Bernhard Hug. Betroffen seien Jugendliche beider Geschlechter. Sie weiss aber auch von Fällen, bei denen künstliche Nacktbilder oder gar pädokriminelle Videos von kleinen Kindern per KI erstellt wurden.
Dass die Politik jetzt handelt, begrüsst Bernhard Hug. Noch besser wäre, sagt sie, wenn so wenig wiedererkennbare Bilder wie möglich von Kindern und Jugendlichen in den sozialen Medien landen. Frontalaufnahmen seien deshalb heikel, sagt sie. Solche Bilder würden sich am besten eignen, um mit solchen Nudify-Apps oder anderen Werkzeugen bearbeitet zu werden. Hier sieht sie auch die Eltern in der Pflicht.
Auch diese selbst geraten in die Fänge der Täter. Mittels eines gefälschten Profils mitsamt Nacktfotos gaukelten sie einem Vater vor, seine Tochter prostituiere sich, und wenn er nicht bezahle, werden sie das überall publizieren. Auch der Vater selbst habe den Fake zuerst nicht erkannt. Mittlerweile gebe es ganze Banden, die sich auf solche Erpressungen spezialisiert haben. Bernhard Hug vermutet, dass es eine grosse Dunkelziffer gebe: «Viele melden sich aus Scham nicht bei uns oder der Polizei.» (aargauerzeitung.ch)
Bei Alkohol / Tabak war ihre Meinung nicht so eindeutig. Evtl. hat die Nackt-AI-Branche noch keine so starken Lobbyisten.
Mit einem Verbot von solchen Apps würde es auf Handys schwieriger so etwas zu machen. Wieviele Webseiten müsste man dazu blockieren, dass es nicht nur Apps trifft?
Weiterhin... mit guten Photoshop-Skills konnte man das schon vor 20 Jahren. Jetzt muss man auf dem Pausenhof eben nicht mehr den Nerd fragen, sondern jetzt können die Mobber das selbst erstellen.
Kann man versuchen, wird nur nicht funktionieren.