Lensa App: Diese drei Fragen solltest du dir vor der AI-Nutzung stellen

Die dunkle Seite der neuen Lensa-App, die gerade alle benutzen

«Lassen Sie Ihre Selfies perfekt aussehen», so bewerben die Entwickler die neue Lensa-App in den App-Stores. Aus den normalen Fotos sollen mit Lensa kreative Meisterwerke entstehen. Hinter dem Fotobearbeitungs-Programm steht ein Deep-Learning-Generator, der aus Millionen von Internetvorlagen die «perfekten» Filter erstellt.

Wie sehr die App bei den Usern ankommt, sieht man praktisch auf jedem Instagram-Feed: Jeder kennt jemanden, der bereits den Filter genutzt hat. Auch die Stars und Sternchen posten von Lensa bearbeitete Bilder, wie hier beispielsweise der DJ Steve Aoki:

Sieh dir diesen Beitrag auf Instagram an

Ein Beitrag geteilt von Steve Aoki (@steveaoki)

Hinter den schönen Bildern verbirgt sich allerdings auch die dunkle Seite der App. Diese drei Fragen solltest du dir deshalb stellen, bevor du Lensa nutzt:

Woher kommen die Bilder?

Auf Twitter kritisieren viele User, dass die Kunst, welche Lensa für ihre aufwändigen Effekte benötigt, geklaut wurde. Das sagt auch die australische Künstlerin Kim Leutwyler gegenüber The Guardian. Die App ahme den Stil eines Künstlers teilweise nach – vom Pinselstrich über die Farbe bis hin zur Komposition.

Mit Hilfe einer Webseite hat die Künstlerin zudem herausgefunden, dass KI-Anwendungen auch ihre Bilder verwenden, um die Algorithmen zu trainieren. «Ich habe etwa jedes von mir gemachte Bild gesehen, das ich jemals ins Netz stellte. Es ist frustrierend und fühlt sich an wie eine Grenzübertretung. Wir wurden dafür weder bezahlt noch namentlich erwähnt.»

Lensa dementiert die Vorwürfe, die App kopiere den persönlichen Stil der Künstler. Sie erklärt, dass die Künstliche Intelligenz beim Lernen einfach sehr ins Detail gehe, um möglichst echt aussehende Gemälde produzieren zu können.

I’m cropping these for privacy reasons/because I’m not trying to call out any one individual. These are all Lensa portraits where the mangled remains of an artist’s signature is still visible. That’s the remains of the signature of one of the multiple artists it stole from.

A 🧵 https://t.co/0lS4WHmQfW pic.twitter.com/7GfDXZ22s1

— Lauryn Ipsum (@LaurynIpsum) December 6, 2022

«Ich habe diese Bilder zurechtgeschnitten aufgrund von Privatsphäre und weil ich niemanden blossstellen will. Das sind alles Lensa-Portraits, auf welchen die zerstörten Überreste der Signatur des Künstlers noch sichtbar sind. Das sind die Überreste einer Signatur von nur einem von vielen Künstlern, von denen sie geklaut haben.»

I spent like five minutes and found dozens of AI generated Lensa images with fucked up "signatures" in the corners. So they're not even trying to hide that all this shit is just pulling from real artists real work, huh? https://t.co/c38KCvCHgT pic.twitter.com/3ucAb0CoJS

— Daniel Danger (@tinymediaempire) December 6, 2022

«Ich benötigte nur etwa fünf Minuten, um Dutzende von KI-generierten Lensa-Bildern mit zerstörter Signatur in der Ecke zu finden. Sie versuchen es also nicht mal zu verstecken, dass sie all das einfach von Künstlern stehlen.»

Auch diese Vorwürfe lässt Lensa abprallen. Es handle sich bei den «Signaturen» lediglich um die «verschwommenen Silhouetten visueller Elemente».

Was sind die Gefahren?

Wer den Nutzungsbedingungen der Lensa-App zustimmt, willigt ein, dass diese frei über die neu generierten Bilder verfügen darf. Lensa kann damit anstellen, was es will. So hat die App beispielsweise das Recht, deinen User-Content weltweit weiterzuverbreiten, ohne dass du dafür entschädigt wirst.

LOL that Lensa AI Art app not only steals artwork from artists but by using it you’re also agreeing that they can do do whatever they want with the images you create. Paying them $8 to rip off artists and do free labor for them. Sounds about right. pic.twitter.com/r0VtDkkYo9

— 🎃 Dave Scheidt 🎃 (@DaveScheidt) December 5, 2022

«Die Lensa-App stiehlt nicht nur Kunstwerke von Künstlern. Indem du die App benutzt, erklärst du dich auch einverstanden damit, dass sie mit den kreierten Bildern machen können, was sie wollen. Acht Dollar bezahlen, damit sie Künstler über den Tisch ziehen und sie gratis arbeiten lassen – hört sich richtig an.»

Perhaps the most damning thing about the Lensa AI art image generator: pic.twitter.com/sFFy6dFIoa

— Fart Demon (@CinnabonMonster) December 4, 2022

«Vielleicht das Verwerflichste am Lensa-Bilder-Generator.»

Was bekomme ich?

Bevor Lensa verschiedene Avatare erstellt, wird man nach dem Geschlecht gefragt. Wer angibt, eine Frau zu sein, muss viel eher damit rechnen, auf den KI-generierten Porträts sexualisiert dargestellt zu werden.

Besonders stark trifft es asiatische Frauen – hier scheint die App noch stärker zu sexualisieren, wie verschiedene User ankreiden. Es gibt Nutzerinnen der App, die sogar erzählen, Lensa habe Nacktfotos von ihnen erstellt, obwohl ihr Körper auf keinem hochgeladenen Selfie zu sehen gewesen sei.

Und auch Schwarze Frauen müssen befürchten, anders gezeigt zu werden, als sie eigentlich aussehen – nämlich mit viel hellerer Haut, wie 20 Minuten berichtet.

I tried the viral Lensa AI portrait app, and got lots and lots of nudes. I know AI image generation models are full of sexist and racist biases, but this one really hit home. My latest story for @techreview https://t.co/AA1cyFFnU1

— Melissa Heikkilä (@Melissahei) December 12, 2022

«Ich habe die virale Lensa-App ausprobiert und jede Menge Nacktfotos erhalten. Ich weiss, die Basis dieses Bildgenerators ist voller sexistischer und rassistischer Voreingenommenheit, aber das hat wirklich gesessen.»

It’s scary because I can already see how people will love their A.I self more than real life self.

Especially with this Lensa App making everyone look so good.

First step to make people fall in love with their digital avatar and a fresh start in the metaverse.

— MASON VERSLUIS 🏆🔮 (@MasonVersluis) December 9, 2022

«Es ist furchteinflössend, weil ich bereits jetzt sehen kann, dass die Menschen ihr KI-Selbst mehr mögen werden als ihr richtiges Selbst. Gerade, weil die App alle so gut aussehen lässt. Der erste Schritt ist damit getan, dass Leute sich in ihren digitalen Avatar verlieben und das Metaverse einen Neuanfang bekommt.»

(leo/anb)