Lensa: Darum solltest du die KI-App nicht verwenden

Dir ist es vermutlich schon aufgefallen: Instagram ist voller Bilder deiner FreundInnen, auf denen sie als feenhafte Avatare erscheinen. Möglich macht das die App Lensa, welche mit Hilfe Künstlicher Intelligenz (Artificial Intelligence) eindrucksvolle Porträts auf Basis von Berechnung erschafft. Natürlich sind die magischen Kombis aus deinen Profilbildern einerseits und Feen, KriegerInnen, Animes und anderen Wesen andererseits eindrucksvoll. Doch leider wirft die App auch einige Bedenken auf. 

Lensa begeht Kunst-Diebstahl

Das erste Problem findet man bereits auf technischer Ebene. Denn wie bei anderen KI-Programmen muss der Algorithmus, der dahintersteckt und für die Berechnungen verantwortlich ist, zunächst erstmal "trainiert" werden. Sprich: Als die App programmiert wurde, verwendeten die MacherInnen von Lensa zahlreiche Beispielbilder aus dem Internet. Wie sich nun herausstellte, wurden die online frei zugänglichen Bilder ohne Erlaubnis der UrheberInnen herangezogen. Diese wurden weder informiert, noch entlohnt.

So wurden beispielsweise auch Stile bekannter KünstlerInnen einfach kopiert. Zahlreiche ProgrammiererInnen meldeten sich etwa auf Twitter zu Wort und bestätigten: "Das ist absolut nicht korrekt". Konkret handelt es sich also um Diebstahl von IP (“Interlectual Property”) beziehungsweise urheberrechtlich geschütztes Gedankengut.

Problematik bei Datenschutz

Sieht man sich die Anwendung der App an, fällt gleich zu Beginn auf, dass puncto Datenschutz einiges von den NutzerInnen abverlangt wird. So nimmt sich das Unternehmen unter anderem heraus, den Content der NutzerInnen nach Belieben zu verwenden. Da man für die Erstellung der Avatare mindestens zehn Bilder von sich hochladen muss, verfügt die App über zahlreiche persönliche Daten, welche wiederum für die Verbesserung des Algorithmus verwendet werden. Laut "Art News" werden die persönlichen Daten jedoch nicht an Dritte weiterverkauft. 

Bedenken puncto Mental Heath

Hat man die Bilder dann mal vor sich, fällt schon auf, dass diese meist makellos sind. Straffe Haut, glänzender Teint und schöne Proportionen sind auf nahezu allen Fotos zu finden. Wie ein Beauty-Filter auf Social Media, lässt uns die App in anderem Licht erscheinen. Vermutlich benutzte Lensa beim Einpflegen der Datensätze vorwiegend klassische, veraltete Schönheitsideale. Viele Frauen berichten daher, dass sie durch ihre Avatare extrem verunsichert wurden und sogar mit Body Dismorphia (falsche Körperwahrnehmung) zu kämpfen haben. 

Wie "MSD Manual" berichtet, versteht man unter einer körperdismorphalen Störung (auch als body dysmorphic disorder – BDD bekannt), wenn "die übermäßige Konzentration auf einen oder mehrere eingebildete oder leichte Defekte im Erscheinungsbild einen erheblichen Leidensdruck verursacht oder die Arbeits- und/oder Lebensweise beeinträchtigt."

Demnach würden Betroffene regelmäßig Stunden damit verbringen, "Makel" an ihrem Körper zu suchen. Zudem bilden sich Menschen mit einer körperdismorphalen Störung ein, dass sie beispielsweise plötzlich unter Haarausfall, Falten, Narben oder Akne leiden. Die Störung tritt meist im Jugendalter auf. Frauen seien zudem häufiger betroffen als Männer.

Lensa diskriminiert und sexualisiert

Auch curvy Frauen schlugen bereits Alarm. Sie bekritteln, dass die App sie deutlich dünner gemacht hat, als sie eigentlich sind. Ähnlich verhält es sich mit Diversität. Denn auch People of Colour berichten von Verzerrungen und, dass ihre Haut augenscheinlich aufgehellt wurde. Die App hat aber nicht nur diskriminierende Züge, sondern hypersexualisiert enorm. Auf den Bildern erscheint der Busen von Frauen oft größer und die Taille dünner – generell werden die Körperbilder extrem aneinander angeglichen. Eine Entwicklung, die nicht gerade fördernd ist. 

Gefahr: Pornografische Inhalte

Gefährlich wird es dann, wenn die Bilder widerrechtlich und gegen den eigenen Willen verwendet werden. Laut Tech-Magazin “TechCrunch” können via Lensa sehr realisitische pornografische Inhalte erstellt werden. Und da Lensa nicht nachgeforscht, woher die hochgeladenen Bilder stammen, kann es passieren, dass diese für pornografische Zwecke missbraucht werden. Die Firma hinter Lensa, Prisma Labs, äußerte sich zu den Vorwürfen und erklärte, dass sie daran arbeitet, Maßnahmen erstellen, die pornografische Inhalte verhindern sollen. Hoffentlich passiert dies bald.