En deepfake är en still- eller rörlig bild som manipuleras och modifieras med hjälp av avancerad artificiell intelligens (AI), till exempel genom att en människas ansikte byts ut.

Applikationen Deepnude, som fungerar med hjälp av AI-inlärningsteknologi, tar ett foto av en person, byter ut kläderna mot bröst och ett kvinnligt könsorgan, och producerar därigenom en ny nakenbild.

Den började säljas på nätet 23 juni.

”Vilken sjuk värld vi lever i”

Reaktionerna i sociala medier efter att appen blivit känd lät inte vänta på sig.

”Vilken sjuk värld vi lever i” skriver en användare på Twitter. ”Oerhört obehagligt” skriver en annan. Flera har också lyft att appen lätt kunde användas för att producera hämndporr.

Mitt i fördömningskören – och en minst lika stor skara användare som hyllar nakenfunktionen – meddelar upphovspersonen att appen nu tas bort.

”Vi trodde aldrig att detta skulle bli viralt. Om 500 000 människor använder den så är sannolikheten för missbruk för stor. Vi vill inte tjäna pengar så här”, skriver appens konto på Twitter.

”Jag är ingen smygtittare”

Skaparen bakom appen, som går under aliaset Alberto, säger till sajten Vice att nyfikenhet var drivkraften bakom skapandet av appen. Programmet tränades med hjälp av över 10 000 bilder på nakna kvinnor, och baseras på en algoritm utvecklad 2017 av University of California, Berkeley.

– Jag är ingen smygtittare, jag är en tech-entusiast, menar han.

Alberto tillägger att han från början var medveten om de moraliska frågeställningarna bakom skapandet av appen.

– Tekniken bakom appen är redan här, så Deepnudes existens förändrar inget. Om inte jag gör det nu, så kommer någon annan göra det nästa år.

Trots att appen slutat säljas finns det troligtvis versioner kvar som kan fortsätta att spridas. Upphovsmannen menar dock att fortsatt spridande av appen innebär ett brott mot användarvillkoren.