EU will KI für Missbrauch-Deepfakes verbieten – auch Schweiz diskutiert Massnahmen
Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln vereinfacht werden, um das wirtschaftliche Potenzial von Künstlicher Intelligenz (KI) in Europa auszuschöpfen.
Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich nachgeahmt, so dass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden.
Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüsste die Einigung: «KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein», teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit.
Grok-Skandale und Debatte über digitale Gewalt
Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt zu haben.
In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Sie wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.
Schweiz diskutiert Deepfakes ebenfalls
Auch in der Schweiz findet die Diskussion über digitale und sexualisierte Gewalt gegen Frauen statt. Gemäss dem Schweizer Verein «Tech Against Violence» hat das «nicht-einvernehmliche Erstellen und Verbreiten intimer und sexualisierter Bilder und Videos» durch KI stark zugenommen. Das habe schwerwiegende Auswirkungen auf die Betroffenen – unabhängig davon, ob die Aufnahmen echt oder manipuliert worden sind.
KI-generierte sexualisierte Inhalte seien «Teil eines Kontinuums geschlechtsspezifischer Gewalt», erklärte Simone Eymann von «Tech Against Violence» vor einem Monat im Gespräch mit der Nachrichtenagentur Keystone-SDA. In 99 Prozent der Fälle seien davon Frauen und Mädchen betroffen.
Nationalratspräsident Pierre-André Page (SVP/FR) hatte am internationalen Frauentag, dem 8. März, die Verantwortung des Parlaments hinsichtlich des Schutzes vor digitaler Gewalt betont. Die Schweiz verfolge die europäische Gesetzgebung und müsse eigene Regeln definieren. Die Technologie müsse dem Menschen dienen, sagte er.
Mit dem Bundesgesetz über Kommunikationsplattformen und Suchmaschinen will der Bundesrat mehr Transparenz und Sicherheit im digitalen Raum schaffen. In der Vernehmlassung zeigte sich jedoch, dass es den meisten Vernehmlassungsbeteiligten zu wenig weit geht. Das Medienausbildungszentrum MAZ in Luzern forderte etwa eine strikte Kennzeichnungspflicht für von KI geschaffener Inhalte – damit Deepfakes erkannt werden.
EU legte bereits Richtlinie zum Thema vor
Die geplanten Gesetzesverschärfungen sind nicht die ersten EU-Regeln zur Bekämpfung digitaler Gewalt. Bestehende Regularien sehen bereits vor, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll.
Das neue Verbot in der KI-Verordnung auf EU-Ebene, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Wobei Verhandlungsteilnehmende betonen, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermässig stark einzuschränken.
Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben.
Verpflichtende Wasserzeichen
Ursprünglich hatte die EU-Kommission Änderungen am KI-Gesetz vorgeschlagen, um die Wirtschaft und insbesondere die KI-Branche zu entlasten. Unternehmen forderten zuletzt aber immer wieder mehr Zeit, um die nötigen Anpassungen für die strikteren Vorgaben umzusetzen. Diese Zeit sollen die Anbieter von Chatbots und anderen Diensten laut der Einigung bekommen.
An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. Andere Regeln soll das KI-Amt erst ab Dezember 2027 durchsetzen. (sda/dpa)
