Digital
Meta

Meta will mit KI erstellte Videos und Audio-Dateien auszeichnen

FILE - A person stands in front of a Meta sign outside of the company's headquarters in Menlo Park, Calif., March 7, 2023. Meta releases results on Thursday, Feb. 1, 2024. (AP Photo/Jeff Chiu, Fi ...
Bild: keystone

So will Meta mit KI erstellte Videos und Audio-Dateien kennzeichnen

06.02.2024, 15:4106.02.2024, 17:40
Mehr «Digital»

Beim Facebook-Konzern Meta sollen die User künftig eine Vorwarnung geben, wenn sie täuschend echt wirkende KI-Videos oder -Audiodateien veröffentlichen. Versäumen sie dies, könnten ihnen Konsequenzen drohen, warnte Metas Politik-Chef Nick Clegg am Dienstag in einem Blogeintrag.

Auf Grundlage der Hinweise will der Konzern in seinen Diensten solche mit Hilfe Künstlicher Intelligenz erstellte Inhalte kennzeichnen. Zu Meta gehören neben Facebook unter anderem auch Instagram und WhatsApp.

Digitale Wasserzeichen

Die Aufforderung an die Nutzerinnen und Nutzer sei erforderlich, weil es in KI-Software zum Erstellen von Videos und Ton-Dateien noch nicht so üblich wie bei Fotos sei, unsichtbare Wasserzeichen zu integrieren, erläuterte Clegg.

Zugleich schränkte er ein, dass es Wege gebe, diese Wasserzeichen zu entfernen. Meta arbeite aber daran, dies zu erschweren. Die Idee dabei sei, die Wasserzeichen direkt in die Erstellung der Dateien zu integrieren, so dass sie nicht deaktiviert werden könnten. Auch entwickle der Konzern Technologie, um mit KI generierte Inhalte automatisch zu erkennen.

In den USA hatten vor wenigen Wochen automatisierte Anrufe mit einer täuschend echt klingenden Nachahmung der Stimme von Präsident Joe Biden für Alarmstimmung gesorgt. Die Botschaft der Anrufe war, nicht an der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire teilzunehmen. Der Vorfall schürte die Sorge, in den kommenden Monaten könnte es Versuche geben, den Ausgang der Präsidentenwahl im November mit der Verbreitung täuschend echter KI-Fälschungen zu beeinflussen.

Meta ist Teil einer Branchen-Koalition, die Standard-Technologien für die Auszeichnung der mithilfe von KI generierten Dateien etablieren will. Meta wolle auf dieser Grundlage KI-Bilder in den Apps Facebook, Instagram und Threads in allen unterstützten Sprachen auszeichnen. Der Konzern hat auch selbst KI-Software zum Erstellen von Bildern über Text-Vorgaben im Angebot. Diese Dateien enthalten sowohl sichtbare Markierungen als auch unsichtbare Wasserzeichen.

(sda/dpa)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Wenn sich KI-Bilder viral verbreiten
1 / 15
Wenn sich KI-Bilder viral verbreiten
Nanu, wen haben wir denn da?
Auf Facebook teilenAuf X teilen
Beeindruckend: Schweizer KI-Künstler visualisiert die Geschichte des Krieges
Video: watson
Das könnte dich auch noch interessieren:
5 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
5
Musk will neue X-Nutzer für ihre Posts bezahlen lassen

Elon Musk will neue Nutzerinnen und Nutzer seiner Online-Plattform X in den ersten Monaten Geld bezahlen lassen, um Beiträge bei dem Twitter-Nachfolgedienst zu veröffentlichen. Das sei der einzige Weg, um die Aktivität automatisierter Bot-Accounts einzudämmen, behauptet er.

Zur Story