Darum solltest du dein Gesicht besser nicht in der KI-Kunst-App Lensa hochladen
Die App Lensa kostet etwa acht Dollar und verwandelt deine Selfies in Gemälde. Aber Achtung: Sie speichert deine Gesichtsdaten und sorgt bei Künstler:innen für Ärger.
War dein Instagram-Feed diese Woche auch voll mit Gemälden deiner Freund:innen oder Bildern, in denen sie plötzlich aussehen wie ein Charakter aus einem Marvelfilm? Dafür verwenden Leute die App Lensa. Einige Expert:innen haben allerdings Bedenken hinsichtlich des Datenschutzes, der Rechte von Künstler:innen geäußert. Außerdem scheint die App darauf bedacht zu sein, jeder Frau, die sie benutzt, riesige Brüste zu geben.
Die vom Technologieunternehmen Prisma Labs entwickelte App nutzt, genauso wie das Unternehmen Aww Inc. künstliche Intelligenz, um Gesichter oder digitale Models zu kreieren. Anhand von den von Nutzer:innen hochgeladenen Fotos werden einzigartige Bilder erstellt. Bezahlt wird im Voraus – etwa acht Dollar für 50 Bilder, vor ein paar Tagen waren es noch etwa vier Dollar. Aber nicht nur, dass man Geld zahlen muss, beunruhigt die Leute.
Hier sind einige der Gründe, warum sich Menschen über die Auswirkungen von KI-Kunstgeneratoren für Nutzer:innen und Künstler:innen Sorgen machen.
Welche Daten speichert die Lensa-App?
Wie bei vielen anderen Fotobearbeitungs-Apps, die in den vergangenen Jahren laut Forbes viral gegangen sind, sind die Nutzer:innen besorgt darüber, wie viele ihrer Daten Lensa speichert, sobald man Fotos hochgeladen hat. Ein:e User:in schreibt dazu: „Alle auf Twitter! Hört auf, die lustige KI-App herzunehmen, um eure Bilder zu verändern! Die App klaut sie! Sie nimmt die Bilder für ihre Datenbank her! Wir haben doch gerade erst darüber geredet!“
Auch andere Nutzer:innen haben eine klare Meinung zu der Lensa-App: so wie diese junge Frau, die aus den Geschäftsbedingungen der Lensa-App zitiert.
„Ihr gebt diesen KI-Kunst Dingern nur mehr Daten.“
Wenn du Fotos auf der Lensa-App hochlädst, hat die Firma Zugriff auf deine Gesichtsdaten
In den Allgemeinen Geschäftsbedingungen von Prisma heißt es, dass die Nutzer:innen „alle Rechte an ihren Inhalten behalten“. Gleichzeitig gewährt die Nutzung der App dem Unternehmen eine „unbefristete, widerrufliche, nicht ausschließliche, gebührenfreie, weltweite, vollständig bezahlte, übertragbare und weiter übertragbare Lizenz zur Nutzung, Reproduktion, Änderung, Anpassung, Übersetzung und Erstellung abgeleiteter Werke“ deiner Fotos.
Das bedeutet, dass das Unternehmen die Rechte an allen digitalen Kunstwerken besitzt, die durch die Verwendung deiner Selfies in der App entstehen.
Bilder von User:innen werden für die Weiterentwicklung der KI verwendet
In den Datenschutzbestimmungen von Lensa (unabhängig von den Geschäftsbedingungen) heißt es, dass das Unternehmen „die von dir bereitgestellten Fotos ... nicht für andere Zwecke verwendet als für die Anwendung verschiedener stilisierter Filter oder Effekte“.
Ein:e Sprecher:in von Prisma Labs erklärt gegenüber TechCrunch, dass das Unternehmen die Fotos der Nutzer:innen aus seinen Cloud-Diensten löscht, nachdem es sie zum Training seiner KI verwendet hat. Für einige Leute ist das Training jedoch besonders beunruhigend.
„Der besorgniserregende Teil ist für mich tatsächlich, dass man das Recht gibt, sein Bild für das Training der KI zu verwenden“, schreibt ein:e andere:r Twitter-Nutzer:in. Laut der Nutzungsvereinbarung von Lensa werden Nutzer:innen nicht entschädigt, wenn das Unternehmen ihre Bilder verwendet, um die KI zu trainieren.
Ein:e ander:e User:in schreibt: „Ich frage mich, wie es euch damit geht, wenn ihr in ein paar Monaten oder Jahren eure Gesichter in einer KI-Datenbank seht.“
Künstliche Intelligenz hat auch Grenzen: Studierende haben einen Pullover entworfen, der KI-Gesichtserkennung austrickst.
Künstler:innen sagen KI-Technologie verwendet ihre Kunstwerke, ohne sie dafür zu entschädigen
KI-Kunst mag so aussehen, als würde sie auf magische Weise von wohlwollenden Robotern, aus dem Nichts erschaffen werden, aber es ist komplizierter als das. Es geht nicht nur um Lensa. DALL-E, MyHeritage und der KI-Kunst-TikTok-Filter sind für ihre Fähigkeit bekannt geworden, Kunst auf der Grundlage von Nutzereingaben zu erzeugen.
Um diese scheinbar einzigartigen Fotos von Menschen zu erzeugen, verwendet Lensa die sogenannte „Stable Diffusion“, ein Modell, das darauf „trainiert“ ist, Muster durch eine Online-Datenbank mit Bildern, die LAION-5B heißt, zu lernen. Sobald das Training abgeschlossen ist, greift es nicht mehr auf diese Bilder zurück, sondern verwendet die Muster, um weitere Inhalte zu erstellen. Es „lernt“ dann deine Gesichtszüge aus den Fotos, die du hochlädst und wendet sie auf die Kunstwerke an.
Das Erlernen ist für Künstler:innen nicht das Problem. Es geht um die Quelle des Wissens. LAION-5B greift auf öffentlich zugängliche Bilder aus dem gesamten Internet zurück – Google Images, DeviantArt, Getty Images, Pinterest und so weiter. Dutzende von Künstler:innen haben sich dazu geäußert, dass sie für ihre Arbeiten, die in der Datenbank erscheinen, weder bezahlt werden noch Anerkennung erhalten. Einige werfen dem Unternehmen Diebstahl vor.
Hast du dich schon einmal gefragt, wie historische Personen heute aussehen würden? Dieser KI-Künstler zeigt es dir.
Lensa-App: „Hier geht es um Diebstahl“
„Künstler:innen lehnen KI-Kunst ab, weil die Programme auf mit Datenbanken voller Kunstwerke trainiert werden, deren Künstler:innen dem ganzen nicht zugestimmt haben“, sagt Claire, eine Digitalkünstlerin, die ihren Nachnamen nicht nennen möchte, um ihre Karriere zu schützen, gegenüber BuzzFeed News US. „Hier geht es um Diebstahl.“
Eine Twitter-Nutzerin fasst das Ganze so zusammen: „Ich war auch erst verwirrt. Leute, die KI sammelt nicht Bilder, um einzigartige Kunstwerke zu machen. Sie klaut Kunstwerke, radiert die Details aus und packt euer Gesicht darüber. Die Bilder hat davor schon jemand gemalt. Die KI ist eine Kunstraubmaschine.“
Andrey Usoltsev, CEO von Prisma Labs, sagt gegenüber BuzzFeed News US, dass die von Lensa erzeugten Bilder „niemals als exakte Kopien eines bestimmten Kunstwerks bezeichnet werden können“. Er erklärt weiter, dass die App Bilder von Grund auf neu erstelle, ohne sich an bestehenden Kunstwerken zu bedienen. Eine ähnliche Argumentation verfolgt auch Blinkist, das aus Sachbüchern sogenannte „Blinks“ erstellt.
Gefährdet die Lensa-App Künstler:innen?
„So wie das Kino das Theater nicht ausgelöscht hat und der Beruf Buchhalter:in durch Buchhaltungssoftware nicht unnötig geworden ist, wird die KI Künstler:innen nicht ersetzen, sondern kann zu einem großartigen Hilfsmittel werden“, schreibt Prisma Labs in einem Tweet. „Wir glauben auch, dass die wachsende Zugänglichkeit von KI-gesteuerten Tools die von Menschen geschaffene Kunst in ihrer kreativen Exzellenz nur noch wertvoller und besser machen würde, da jede Industrialisierung handwerklichen Werken mehr Wert verleiht.“
Manchmal nutzen Künstler:innen KI-Werkzeuge, um sich inspirieren zu lassen und ihr nächstes kreatives Projekt zu visualisieren. Jetzt fürchten sie, dass ihre Karriere dadurch gefährdet werden könnte. Ein:e Künstler:in twitterte: „‚Ich nehme die KI nicht für Kunstwerke her, ich mache damit nur Memes!‘ Die Memes sind nicht lustig, nicht mal ansatzweise. Du gibst einer von Grund auf anti-kreativen KI Material und Daten für die langweiligsten Memes, die ich je gesehen habe.“
„Viele Leute haben in vergangener Zeit ihre Lensa oder andere KI-Porträts gepostet. Bitte macht das nicht oder noch besser, benutzt die Apps gar nicht erst. Diese KI scheinen wie ein harmloser Spaß, aber sie sind diebisch und wollen Künstler:innen ersetzen“, schreibt die Stimmkünstlerin Jenny Yokobori in einem Tweet.
„Hey Leute, die Zeit der glaubhaften Abstreitbarkeit bei KI-Kunst ist vorbei. Künstler:innen haben euch gesagt, wie schädlich das ist und wie wir ausgenutzt werden. Trotzdem sehe ich immer wieder Leute, die sowas twittern: ‚Ich weiß nicht, was ich von KI-Kunst halten soll, aber... hier sind ein paar Bilder aus einem Generator!‘“
„Leute wollen unbedingt mit Künstler:innen streiten, die selber schauen müssen, wie sie ihre Rechnungen bezahlen, dass es ok ist, dass KI-Firmen deine Kunst/Daten klaut, damit du für acht Dollar ein paar unoriginelle, abgrundtief hässliche, animierte Selfies bekommst, die du dann für zwei Wochen als Profilbild hernimmst, bevor dem nächsten Trend hinterherrennst.“
„Ihr denkt vielleicht, dass dieser KI-Trend süß und ein bisschen schräg ist, aber eure Künstler-Freund:innen sehen nur, dass ihr super damit leben könnt, eine acht Dollar App zu verwenden, die Kunstwerke klaut, damit ihr ein Bild bekommt, das ihr auch bei einem:r Künstler:in in Auftrag hättet geben können. Die Person hätte damit ihre Rechnungen zahlen können und die Firma würde nicht von Diebstahl und deinen Bildern profitieren.“
„‚Die KI verwendet doch nur Millionen Kunstwerke, die es bereits gibt, und macht sie dann zu einem, das ist kein Diebstahl‘“. Pustekuchen: „WO KOMMEN DIE GANZEN KUNSTWERKE HER???“
„Es freut mich, dass anscheinend mehr Leute in der Kunstwelt verstehen, dass ‚KI im Endeffekt Diebstahl ist‘. Wenn das Tool, das du gebaut hast, weniger funktional ist, wenn keine Datenbank mit einem Haufen Arbeit, die du selber nicht getan hast, zur Verfügung steht, dann ist es genau das – Diebstahl.“
KI-Kunst in der Lensa-App sexualisiert außerdem Frauen
Eines der schönsten Dinge an Kunst ist die Art und Weise, wie ihre Schöpfer:innen ihre eigene Perspektive und ihren eigenen Stil in jedes Werk einbringen. Das gibt es bei der musterbasierten Kunst, die KI erzeugt, nicht. Der CEO von Prisma Labs sagt gegenüber BuzzFeed News US, dass die KI „nicht das gleiche Maß an Aufmerksamkeit und Wertschätzung für Kunst aufbringt wie ein Mensch“.
Das kann man sehen, wenn es in KI-generierte Kunst auf einmal zu viele Finger gibt oder die Augen einfach seelenlos sind. Aber es kann auch noch viel schlimmer sein, wenn Lensa Leute sexualisiert und ihre Hautfarbe falsch darstellt.
Von den 50 Bildern, die Lensa aus meinen Selfies erstellt hat, haben sieben meinen Körper übertrieben dargestellt, sodass ich sowohl kurviger als auch dünner aussehe, als ich tatsächlich bin. Obwohl ich kein Foto hochgeladen habe, die irgendetwas unterhalb der Schultern zeigt, hat die KI Bilder gemacht, auf denen ich eine Oberweite und eine winzige Taille habe, die eher an einen Cartoon erinnern. Und ich weiß, dass ich damit nicht allein bin.
Mit der Lensa-App können Nacktbilder erstellt werden
Die Aktivistin Brandee Barker schreibt auf Twitter: „Fällt das nur mir auf, oder erhalten sie Frauenfeindlichkeit aufrecht? Hier sind ein paar Bilder (basieren nur auf meinem Gesicht), die ich bekommen habe.“ Ihre Ergebnisse sahen ähnlich aus wie meine, mit sexualisierten Posen und übertriebenen Gesichtszügen. Laut Refinery 29 haben einige Menschen gesagt, dass solche Apps ihnen geholfen haben, ihr Geschlecht auszuleben, aber sie können auch das Gegenteil bewirken, indem sie geschlechtsspezifische Merkmale auf die Spitze treiben.
Künstliche Intelligenz kann noch viel mehr: Diese 7 crazy Dinge sind heute schon mit KI möglich.
„Die Tatsache, dass die App weibliche Körper komplett nackt OHNE jegliche Aufforderung zeigt, ist gruselig und kann dir eines Tages zum Verhängnis werden, wenn jemand behauptet, die KI-Kunst basiere auf einer Nacktbild, das du der Person geschickt hast“, schreibt eine Twitter-Nutzerin. In einem Artikel für Wired berichtet die Autorin Olivia Snow, dass sie in der Lage war, anhand von Fotos aus ihrer Kindheit Nacktbilder von sich selbst zu erstellen.
KI-Kunst macht People of Colour zu Europäer:innen
People of Color (PoC)-Frauen erzählten Snow, dass Lensa ihre Haut aufhellte und ihre Gesichtszüge europäischer machte. Einige sagten, sie fühlten sich „misshandelt“. Das fiel auch einer Twitter-Userin auch auf: „Die KI-Kunst App ist so offensichtlich rassistisch, die kann einfach niemanden dunkler als Weißbrot machen. Benutzt das nicht. Gebt der App keine Daten.“
Andere haben gesagt, dass die App ihre Gesichtszüge nicht erfasst hat und sie weißer erscheinen lässt, als sie wirklich sind. Auch Strafverfolgungs-KI fiel schon durch rassistische Verhaltensweisen auf. Dicke Menschen bemerkten, dass die App sie dünn aussehen lässt. Die Gamerin Anisa Sanusi schreibt dazu: „Ich habe die Lensa KI App ausprobiert und 20 Fotos hochgeladen und die App hatte echt Probleme mit meinem asiatischen Gesicht. Meine Ergebnisse waren so verzerrt, dass meine Gesichtszüge eher ostasiatisch waren und ich finde es ehrlich gesagt nicht so toll.“
„Meine lieben dicken Freund:innen, nur zur Info, Lensa kann mit dicken Leuten nichts anfangen. Eure Avatare werden dünner gemacht. Es sieht sche*ße aus. Spart euch das Geld und die mentale Energie.“
KI-Kunst wird immer besser – auch dank Apps wie Lensa
Je mehr Menschen KI-Kunst-Apps die Erlaubnis erteilen, ihre Gesichter zu analysieren, desto besser könnte die Technologie werden, um genauere Merkmale zu erzeugen.
Einige Twitter-User:innen finden das ganz schön gruselig: „Ich weiß nicht ...diese Lensa-App wird zum Trend, nachdem wir darauf hingewiesen haben, dass es komisch ist, wie KI-Kunst manche menschlichen Gesichtszüge nie richtig hinbekommt. Jetzt zahlt jede:r dafür, dass seine oder ihre Bilder kopiert und analysiert werden.“
Es könnte auch noch viel schlimmer werden.
Autorin ist Kelsey Weekman. Der Artikel erschien am 08. Dezember 2022 auf buzzfeednews.com. Aus dem Englischen übersetzt von Friederike Hilz.