”Världen är ännu inte redo för Deepnude” skriver upphovspersonen på Twitter. Foto: TT

Fotoappen ”klär av” kvinnor – stoppas efter sociala medier-raseri

Publicerad

Applikationen Deepnudes funktion är simpel. Ladda upp en bild på en påklädd kvinna, och appen ”klär av” henne – helt och hållet.
Sedan deepfake-programmet börjat säljas har det mötts av intensivt raseri, och i sociala medier meddelar nu upphovsmannen att det tas bort då ”sannolikheten för missbruk är för stor”, och att ”världen ännu inte är redo för detta”.

En deepfake är en still- eller rörlig bild som manipuleras och modifieras med hjälp av avancerad artificiell intelligens (AI), till exempel genom att en människas ansikte byts ut.

Applikationen Deepnude, som fungerar med hjälp av AI-inlärningsteknologi, tar ett foto av en person, byter ut kläderna mot bröst och ett kvinnligt könsorgan, och producerar därigenom en ny nakenbild.

Den började säljas på nätet 23 juni.

”Vilken sjuk värld vi lever i”

Reaktionerna i sociala medier efter att appen blivit känd lät inte vänta på sig.

”Vilken sjuk värld vi lever i” skriver en användare på Twitter. ”Oerhört obehagligt” skriver en annan. Flera har också lyft att appen lätt kunde användas för att producera hämndporr.

Mitt i fördömningskören – och en minst lika stor skara användare som hyllar nakenfunktionen – meddelar upphovspersonen att appen nu tas bort.

”Vi trodde aldrig att detta skulle bli viralt. Om 500 000 människor använder den så är sannolikheten för missbruk för stor. Vi vill inte tjäna pengar så här”, skriver appens konto på Twitter.

”Jag är ingen smygtittare”

Skaparen bakom appen, som går under aliaset Alberto, säger till sajten Vice att nyfikenhet var drivkraften bakom skapandet av appen. Programmet tränades med hjälp av över 10 000 bilder på nakna kvinnor, och baseras på en algoritm utvecklad 2017 av University of California, Berkeley.

– Jag är ingen smygtittare, jag är en tech-entusiast, menar han.

Alberto tillägger att han från början var medveten om de moraliska frågeställningarna bakom skapandet av appen.

– Tekniken bakom appen är redan här, så Deepnudes existens förändrar inget. Om inte jag gör det nu, så kommer någon annan göra det nästa år.

Trots att appen slutat säljas finns det troligtvis versioner kvar som kan fortsätta att spridas. Upphovsmannen menar dock att fortsatt spridande av appen innebär ett brott mot användarvillkoren.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer