Eine Experten-Studie warnt vor erheblichen Defiziten bei heutigen Methoden zur Kennzeichnung von Bildern, Videos und Audio-Aufnahmen, die mit generativer künstlicher Intelligenz («GenAI») erzeugt wurden.
Für die User sichtbare Markierungen könnten irreführend und schwer zu entdecken sein – und seien zugleich relativ einfach zu entfernen, betonte die Internet-Stiftung Mozilla in einem am Montag veröffentlichten Bericht (siehe Quellen).
Digitale Wasserzeichen, die automatisch in von KI erzeugte Inhalte eingebettet werden, seien zwar die robustere Lösung. Auch hier gebe es jedoch den Vorbehalt, dass diese Informationen erst von der Software auf den Geräten der User ausgelesen und für sie dargestellt werden müsse.
Vorschriften zur Auszeichnung von Inhalten liefen oft ins Leere, warnt die Mozilla-Forscherin Ramak Molavi Vasse'i. Die sogenannten Deepfakes würden schliesslich meistens extra dafür erstellt, um in die Irre zu führen.
Wenn die Branche mit Selbstregulierung nicht vorankomme, müsse es mehr öffentlichen Druck geben. Generell sei ein Problem, dass gerade eine Technologie in Umlauf gebracht werde, bei der Massnahmen gegen einen böswilligen Einsatz nicht von Anfang an durchdacht und eingebaut würden. Ausserdem gebe es noch einen Wildwuchs aus mehreren Verfahren dafür statt eines einheitlichen Standards.
Konkret schlagen die Mozilla-Forschenden vor, unsichtbare maschinenlesbare Wasserzeichen zu nutzen. Darüber hinaus plädieren sie für die Entwicklung von «Slow AI», wie netzpolitik.org schreibt. Eine Regulierung müsste demnach sicherstellen, dass KI-Technologie fair und sicher sei.
Mit KI-Software kann man immer realistischere Fotos aus Text-Vorgaben erzeugen. Und inzwischen wird auf diese Weise auch immer häufiger Video generiert – so stellte der ChatGPT-Entwickler OpenAI jüngst seine Video-Software Sora vor. Die sichtbare Markierung, die auf eine KI-Herkunft hinweise, sei bei Sora klein und oft schwer zu sehen, kritisierte die Mozilla-Expertin.
Insbesondere in diesem Jahr mit der US-Präsidentenwahl und der Europawahl gibt es die grosse Sorge, dass mithilfe von KI erstellte Fälschungen verwendet werden könnten, um ihren Ausgang zu beeinflussen. In den USA gab es bereits kurz vor der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire automatisierte Anrufe, bei denen mit der täuschend echt wirkenden Stimme von Präsident Joe Biden dazu aufgerufen wurde, der Abstimmung fernzubleiben.
Solche Audio-Fakes gelten allein schon deshalb als grosses Problem, weil es weniger Möglichkeiten gibt, sie anhand von Fehlern oder Kennzeichen zu erkennen. Es gab bereits Fälle, in denen solche Aufnahmen für den sogenannten Enkel-Trick angewendet wurden, bei dem Kriminelle versuchen, Geld im Namen von Verwandten zu erbeuten.
(dsc/sda/dpa)
