– Det ställs väldigt stora krav på de som tittar och lyssnar på innehållet, säger Sanna Wolk, professor i juridik. Foto: Storyblocks/Tiktok/Natalia Czermak

Deepfake-porr av Billie Eilish sågs av miljontals på Tiktok

Publicerad

Ett ultrasexualiserat bildspel, föreställande popfenomenet Billie Eilish, har blivit viralt på Tiktok och fått över 11 miljoner visningar. Det är bara det att bilderna inte är äkta.

Trots att bilderna bröt mot plattformens community-regler fick de ligga kvar i fyra dagar – och främjades av appens egen algoritm.

”Det är inte tillåtet att publicera, ladda upp, strömma eller dela: Innehåll som ändrar eller förvränger en bild på en annan person för att porträttera eller antyda sexuell suggestion eller deltagande i sexuella handlingar. ”

Så står det i den sociala plattformen Tiktoks regler gällande sexuella trakasserier. Ändå fick ett rörligt bildspel bestående av AI-genererad deepfake-pornografi föreställande popfenomenet Billie Eilish ligga uppe i fyra dagar.

– Den som matar in innehållet kan begå en handling som inte är laglig. Den som visar innehållet, till exempel Tiktok, kan ha ett medverkandeansvar, säger Sanna Wolk, professor i juridik.

Videon av Billie Eilish visades främst på appens ”For you”-sida. Det är den första sidan användaren möts av i appen och kureras med hjälp av videos från kreatörer som du kanske inte följer, men som appens algoritm tror att du kommer tycka om. Foto: TikTok

Tiktok: Medvetna om att vi inte fångar allt

Tiktok-kontot som lade upp bilderna hade över 76 000 följare och länkade till ett Instagramkonto med drygt 2 000 följare, som delade bilderna vidare och försökte sälja ”ocensurerade bilder” med ”explicit innehåll” för 20 dollar styck.  

Tiktok vill inte ställa upp på en intervju med SVT, men bekräftar via mejl att innehållet bröt mot deras community-regler och att det raderats efter granskning. De uppger även att Sveriges modereringsteam inte stött på filmen och heller inte kan se att den spridits i någon omfattning här.

Samtidigt säger de sig vara medvetna om att de inte fångar upp alla fall av kränkande innehåll så snabbt som de önskar.

Sexualiserande filter och appar kritiseras

Deepfake pornografi är enligt många experter ett växande problem – men även överdrivet sexualiserande filter som i många fall används av minderåriga, eftersom Tiktok tillåter användare från 13 år.

De senaste veckorna har just AI-genererade bilder och filter från appar som Lensa eller Midjourney mött stor kritik för att lägga särskilt sexualiserande effekter på kvinnor. Vilket bland annat kritiserats av skådespelerskan Megan Fox, efter att appen Lensa skapat bilder där hon till största delen porträtteras naken.

– Det spelar ingen roll om det är kändisar eller nyheter. Just det här att förvränga verkligheten ökar dramatiskt, säger Sanna Wolk.

Se Sanna Wolk, professor i juridik, förklara vilka brott TikTok kan göra sig skyldiga till när brottsligt innehåll delas i videon ovan.

Vad innebär Deepfake?

Begreppet deepfake kommer från  ”deep learning” i meningen ”djup maskininlärning” i datorer och ”fake” i meningen ”falsk”. 

Djup maskinlärning är avancerad AI-teknik (Artificiell Intelligens) där flera lager av maskininlärda algoritmer används för att effektivt kunna plocka ut indataegenskaper på hög avancerad nivå.  I praktiken så används detta ofta för att manipulera ett ansikte och en röst i video eller ett foto.

För att skapa en riktigt bra och trovärdig deepfake behövs hundratals bilder av ett ansikte från olika vinklar, men för att det ska funka hjälpligt behövs faktiskt bara ett enda foto.

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.