«Rezept zur Katastrophe»: Meta stellt KI-Tool zur Bildgenerierung vor
KI-generierte Bilder und Videos begegnen uns heute im Alltag bereits an vielen Orten. Die Dimensionen reichen von Dorffest-Flyern, über Katzenvideos, bis hin zu nationalen Werbekampagnen von SBB oder Swisscom.
Während KI-generierte Inhalte in der Werbung vor allem deshalb in der Kritik stehen, weil sie kreative Arbeit ersetzen und Kunstschaffenden Aufträge entziehen, birgt der Einsatz sogenannter Text-to-Image-Tools im privaten Bereich zusätzliche Risiken bezüglich des Missbrauchs der Technologie.
Durch die Möglichkeit, mittels Texteingabe täuschend echte Bilder von realen Personen in Situationen zu erstellen, in denen sich diese nie befunden haben, steigt die Gefahr des Identitätsmissbrauchs, der Verbreitung von Falschinformationen und der Herstellung und Verbreitung von KI-generierten, nicht einvernehmlichen pornografischen Inhalten.
Auf Elon Musks Grok folgt Metas Muse Image
Erst kürzlich machte ein Bericht im US-Magazin «The Information» Schlagzeilen, in welchem zwei ehemalige Mitarbeitende von xAI, dem KI-Unternehmen von Elon Musk, berichteten, dass rund die Hälfte aller Anfragen zur Bildgenerierung auf pornografischer Natur seien. Dabei ist Grok direkt in Musks Social-Media-Plattform X integriert, problematische fiktive Inhalte können so nahtlos erstellt und sofort geteilt werden.
Nun hat mit Meta der nächste Tech-Riese ein eigenes Text-to-Image-Tool veröffentlicht und direkt in die firmeneigenen sozialen Plattformen und Messenger-Dienste integriert. Das Tool mit dem Namen Muse Image kann aktuell über den Webbrowser sowie über die Meta-AI-App genutzt werden. In den USA ist die Funktion bereits auf WhatsApp und Instagram in der Story-Funktion eingebettet.
In einem Blogbeitrag schreibt das Tech-Unternehmen von Mark Zuckerberg: «Muse Image fungiert als kreativer Partner, der Ihre Welt kennt und es Ihnen leicht macht, Ihre Ideen in hochwertige Grafiken zu verwandeln, die Sie herunterladen und überall teilen können, beispielsweise direkt in Ihrem Feed, Ihrer Story oder im Chat.» Das Unternehmen hat ebenfalls angekündigt, die Funktion bald auch in weiteren Ländern anzubieten, die Funktionen auf Instagram auszuweiten und das Tool auch für Facebook und Messenger anzubieten. Eine Version zur Videogenerierung sei bereits in Arbeit.
KI-Tool bedient sich an Profilbildern von Usern
Nachdem Meta seine neue Software vorstellte, sorgte insbesondere ein Feature für Aufregung. So können Nutzende andere User in ihrer Texteingabe mit einem «@» und dem dazugehörigen Profilnamen markieren und die KI erstellt mithilfe des Profilbilds der Person unmittelbar ein Bild von der markierten Userin oder dem User. Um zu verhindern, dass dabei die eigenen Bilder für solche Anfragen verwendet werden, müssen Nutzende ihr Konto entweder auf privat stellen oder den Gebrauch der eigenen Bilder in den Einstellungen aktiv verbieten.
Solche Bildgenerierungstools wie Metas Muse Image sind erstmal nichts Neues. Bereits 2022 kamen mit DALL-E 2 oder Midjourney erste leistungsfähige Text-to-Image-Tools auf den Markt, die eine immer realistischere Bildgenerierung einer breiten Masse ermöglichten. Die Integration generativer Bild-KI in soziale Netzwerke begann zunächst mit vergleichsweise einfachen Kreativfunktionen wie stilisierten Avataren, Filtern oder personalisierten Bildinhalten.
Mit der Integration von Grok in X im Jahr 2024 verschob sich der Fokus stärker auf die Erstellung fotorealistischer Bilder direkt innerhalb sozialer Netzwerke. Aufgrund der vergleichsweise geringen Einschränkungen bei der Bildgenerierung geriet Grok wegen der damit erstellten Deepfakes und nicht einvernehmlichen sexualisierten Inhalten seit seiner Einführung immer wieder in die Kritik. Die EU leitete erst in diesem Jahr ein noch nicht abgeschlossenes Verfahren gegen den Plattformbetreiber X ein, Malaysia und Indonesien schränkten den Zugang zu Grok zeitweise ganz ein.
Datenschützer warnen vor neuem KI-Tool
Obschon zu erwarten ist, dass die neue Muse-Image-Funktion von Meta diesbezüglich stärker reguliert sein dürfte als Elon Musks Grok, schauen Datenschützerinnen und Datenschützer mit Sorge auf die neueste Entwicklung von Meta. So auch Martin Steiger, Anwalt für Recht im digitalen Raum und Sprecher der Datenschutzorganisation Digitale Gesellschaft Schweiz.
Der Jurist kritisiert die vermehrte Integration solcher Dienste auf Social-Media-Plattformen: «Dadurch stehen die Tools plötzlich Milliarden von Menschen direkt zur Verfügung, die Hemmschwelle zur Nutzung fällt vollständig weg.»
Die Tools seien zudem auf hohe Viralität ausgelegt, Nutzerinnen und Nutzer würden ermutigt, die erstellten Bilder direkt zu teilen und weiterzuverbreiten, auch problematische Inhalte: «Da KI mit grossen Datenmengen trainiert wird, die auch gesellschaftliche Vorurteile enthalten, entstehen dadurch teilweise klischeehafte, rassistische oder sexistische Darstellungen.»
Dass Social-Media-Nutzende, die über ein öffentliches Konto verfügen, selbst aktiv werden müssen, um die Befugnisse der Tech-Konzerne einzuschränken, kritisiert Markus Steiger scharf:
Die grossen Techkonzerne würden den gesetzlich verankerten Grundsatz «Privacy by Default», also dass bereits die Standardeinstellungen den Datenschutz möglichst gut gewährleisten müssen, schlicht ignorieren, so der Jurist Martin Steiger.
Hier kannst du die Funktion deaktivieren:
In einem Artikel des englischen Nachrichtensenders BBC nennt der Direktor der Datenschutzorganisation Foxglove, Donald Campbell, das neue Tool ein «Rezept zur Katastrophe». Mit Blick auf die bereits bekannten diversen Vorfälle im Zusammenhang mit nicht einvernehmlich verbreiteten, KI-veränderten Bildern auf Social Media sagt Campbell gegenüber der BBC: «Es ist schwer nachzuvollziehen, warum Mark Zuckerberg es für eine gute Idee hält, diese gruselige Bildmanipulation noch weiter zu fördern.»
