Deep Fakes in der Schweiz: «Frauen werden systematisch kaputt gemacht»
Die Bilder zeigen Frauenkörper in sexuell eindeutigen Posen: mit gespreizten Beinen, entblössten Brüsten, beim Gruppensex.
Sie tragen das Gesicht der Schauspielerin Collien Fernandes. Wer die expliziten Bilder gemacht und ins Internet gestellt hat: unklar. Fernandes beschuldigt ihren Ex-Mann Christian Ulmen, ebenfalls Schauspieler.
Anlaufstellen für Opfer von sexueller Gewalt
Die Darstellungen sind wegen der technologischen Möglichkeiten der verwendeten KI-Bildertools kaum mehr als Fälschungen erkennbar. Die Rede ist von sogenannten Deepfakes oder Deep Nudes.
Fernandes wehrt sich öffentlich gegen die digitale Gewalt, die ihr seit Jahren entgegenschlägt. Sie hat mit dem Spiegel darüber gesprochen. Und ihren Ex-Mann verklagt, den sie beschuldigt, zumindest einen Teil der Deep Nudes hergestellt und ins Netz gestellt zu haben.
Christian Ulmen bestreitet über seinen Anwalt jegliche Vorwürfe. Er habe auch keine Deepfakes von Fernandes hergestellt und verbreitet. Fernandes selbst spricht davon, ihr Ex-Mann habe pornografische Videos und Fotos verschickt, die möglichst echt und privat wirken sollten: «Welche Technik dabei verwendet wurde, muss vor Gericht geklärt werden.»
Es ist ein erster springender Punkt in der nun angefachten Diskussion über digitale Gewalt: Was ein Deep Fake ist, was zulässige Bildmontage und was strafbare Fälschung – es ist weitgehend unklar.
Rechtlich unsichere Lage
Das Schweizer Recht kennt keinen expliziten Artikel, der das Herstellen und Verbreiten von Deepfakes unter Strafe stellt.
Zwar gibt es verschiedene Straftatbestände, unter denen es grundsätzlich denkbar wäre, Deepfakes einzuklagen, erklärt Martin Wyss, Jurist am Kompetenzzentrum Medizin – Ethik – Recht Helvetiae der Universität Zürich gegenüber watson. Aber:
Wyss hat zusammen mit Brigitte Tag, Strafrechtsprofessorin an der Universität Zürich, einen juristischen Fachartikel zum Umgang mit Deepfakes nach Schweizer Recht geschrieben. Darin gehen sie alle potenziell denkbaren Straftatbestände durch, mit denen Gerichte Deepfakes heute schon ahnden könnten.
Wichtigste Erkenntnis: Obwohl das Parlament erst 2024 das Sexualstrafrecht revidiert hat, gibt es keine rechtliche Handhabe, mit der Deepfakes zweifelsfrei und griffig sanktioniert werden könnten.
Zwei Beispiele veranschaulichen das Problem. Juristisch denkbar ist Deep Fakes als sexuelle Belästigung aufzufassen. Gemäss einem Urteil des Bundesgerichts allerdings nur, wenn die Belästigung «ohne zeitliche Verzögerung» stattfindet, das Opfer sich der Situation also nicht entziehen kann.
Das ist etwa der Fall, wenn die Belästigung via Webcam oder am Telefon stattfindet. Nicht aber, wenn sie auf Social Media oder per Upload im Internet landet.
«Der Versand von pornografischen Deepfakes, beispielsweise per WhatsApp, oder ihre Verbreitung über Social Media stellt nach dieser Rechtsprechung deshalb keine sexuelle Belästigung dar», sagt Wyss.
Zweites Beispiel. Mit der Sexualstrafrecht-Revision hat das Parlament einen neuen Strafartikel gegen Revenge Porn geschaffen. Dabei handelt es sich um Pornos, die zunächst einvernehmlich erstellt wurden, nach dem Beziehungsende aber – in der erdrückenden Mehrheit der Fälle durch den Ex-Partner – aus Rachegelüsten ins Internet geladen werden.
Auch veröffentlichte Deepfakes sind oft Racheakte. Allerdings stellt der Revenge Porn-Artikel einzig «tatsächliche» sexuelle Darstellungen unter Strafe. Also sexuelle Handlungen unter realen existierenden Personen, die tatsächlich stattgefunden haben.
Deepfakes sind das Gegenteil davon.
«Der Versand von pornografischen Deepfakes, das heisst Bildern, die virtuelle, also «nicht-tatsächliche» sexuelle Inhalte zeigen, fällt nicht unter diesen Begriff von Rachepornografie», sagt Wyss.
Frauen, die juristisch gegen ein Deep Nude von sich vorgehen möchten, sind also zurzeit in einer unangenehmen Lage. Zurzeit ist unklar, ob einem Opfer vor Gericht Erfolg beschieden wäre.
Strafartikel für Deepfakes?
Das fordern die Grünen in einem offenen Brief an den Bundesrat, den sie am Donnerstag lanciert haben. «Was in der realen Welt verboten ist, sollte auch im Internet verboten sein», sagt Gerhard Andrey, Nationalrat der Grünen aus dem Kanton Fribourg. «Die Politik verschläft es, die Menschen in diesem Land vor diesen toxischen Phänomenen zu schützen.»
Collien Fernandes spricht selbst von digitaler Vergewaltigung, die sie erfahre. Das ist kein juristischer Begriff, trotzdem hat Bettina Balmer, Präsidentin der FDP Frauen, Verständnis für die Wortwahl:
Auch sie will digitale Gewalt wie Deepfakes besser sanktionieren. Allerdings will sie nicht zwingend neue Gesetzesartikel. Es könne nicht darum gehen, jetzt reflexartig nach Regulierungen und Geld zu rufen, sondern man müsse zuerst prüfen, was im bestehenden rechtlichen Rahmen möglich ist.
Das vom Bundesrat auf den Weg gebrachte Gesetz zur Regulierung von Kommunikationsplattformen begrüsst Balmer im Grundsatz und wenn es auf liberale Art und Weise umgesetzt wird. Es gehe darum, auch die grossen Player wie Google oder Meta als Anbieter von KI in die Pflicht zu nehmen.
«Wenn ich mir aber den aktuellen bundesrätlichen Vorschlag durchlese, droht mit dem Gesetz eine derartige Überregulierung, dass die Innovationskraft der Schweiz im Bereich von KI verhindert wird. Das das darf auch nicht das Ziel sein», sagt Balmer.
Regulierung der Tech-Giganten
Die grossen US-Plattformen wie Google, Meta oder Grok müssten noch weitaus stärker reguliert werden. «Wir haben lange darauf gewartet, dass der Bundesrat endlich eine Vorlage zur Plattformregulierung vorlegt», sagt Andrey.
«Er hat sich geziert, herausgekommen ist eine sehr handzahme Lösung, ohne Jugendschutz oder Pflicht zur Risikominderung.»
Tatsächlich kennt die EU den Digital Services Act (DSA), um Tech-Plattformen zu regulieren. Der DSA ist seit November 2022 in Kraft; die Schweiz hat dreieinhalb Jahre später die Vernehmlassung abgeschlossen.
«Der Bundesrat lässt die Frauen in der Schweiz im Stich», sagt Andrey. Das sei eine Frage der Prioritäten, ist er überzeugt:
Anders ist es für Andrey nicht zu erklären, dass die Schweiz die US-Tech-Plattformen nicht stärker regulieren will.
Er fordert die gleichen Grundsätze, die die EU im Digital Services Act formuliert hat: eine Löschpflicht für problematische Inhalte. Und die Plattformen sollen stärker dazu verpflichtet werden, die Nachverfolgung von Inhalten zu gewährleisten.
Andrey sagt: «Wir müssen wie bei Kinderpornographie rote Linien formulieren und wenn sich die Player nicht an diese halten, werden sie abgeschaltet.»
Lösung Internet-Initiative?
Bettina Balmer und Gerhard Andrey haben unterschiedliche Ansätze, die Deepfake-Flut in den Griff zu bekommen. In einem Punkt stehen sie aber geeint da. Beide unterstützen die sogenannte Internet-Initiative des Unternehmers Guido Fluri.
Weil auch er findet, dass die Regulierungs-Strategie des Bundesrats ungenügend ist, will er die Tech-Konzerne zwingen, gegen digitale Gewalt vorzugehen. Die Initiative ist über die Parteigrenzen hinweg abgestützt, die Phase der Unterschriftensammlung läuft.
