Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video

Webbläsaren stöds inte

SVT stödjer inte uppspelning i din webbläsare. Vi rekommenderar därför att du byter till en annan webbläsare.
Se techkorrespondent Alexander Noréns deepfakes i videon. Foto: Karin Fallenius/SVTVisa alla (2)
Visa alla (2)

Explosion av fejkvideos med nya appar

Uppdaterad
Publicerad

Artificiell intelligens i mobilen öppnar upp för vem som helst att göra egna deepfakes.

– Vi måste ha etiska riktlinjer, säger en av apputvecklarna som efterlyser reglering.

Måns Zelmerlöw kan bli din marionettdocka. Hans ansiktsuttryck styrs av dig, när du filmar dig själv med mobilkameran och din röst kommer ut ur hans mun (kolla resultatet ovan).

Ett enkelt sätt att göra en skoj video, utan att behöva anstränga sig så mycket. Inte konstigt att den här typen av Tik Toks blivit populära. Inte sällan med en känd hitlåt som det lånade ansiktet sjunger (hur många ”Mai-a-hi, mai-a-hu, mai-a-ha” orkar vi höra?).

Wombo, Avatarify är några av apparna som gör det möjligt, vars popularitet har synts på topplistorna över mest nedladdade. Den här trenden med ”syntetisk media”, som branschen själv kallar det, fick sig en skjuts när släktforskningstjänsten MyHeritage lanserade en animeringsfunktion av bilder på döda släktingar.

På en dryg månad har 70 miljoner döingar börjat himla med ögonen, vrida på ansiktet och blinka till de livs levande i nedstigande led.

Deepfake inom porr och nyheter

Vi har talat om deepfakes i flera år, tekniken är inte ny, så varför slår det brett just nu?

– Nya algoritmer har skapats, och så har vi snabbare datorkraft både på serversidan och i mobilerna, förklarar Matthew Kershaw, vice vd på D-ID, företaget som utvecklat tekniken bakom MyHeritages ansiktsanimering DeepNostalgia.

Men det är inte bara döda släktingar som skickar en luftpuss genom århundraden och bebisar som rappar som sprids med den här tekniken. Den har även skapat porrgenren adult deepfake och gett alla viralgranskare ännu mer att göra nu när det även finns deepfake-news att avslöja.

– Vi har exempelvis tagit ned videor där man fått en politiker att se berusad ut. När du medvetet manipulerar en video i avsikt att vilseleda, så strider det mot våra regler, förklarar Google och Youtubes kommunikationschef Joakim Larsson.

Vill se etiska riktlinjer

Matthew Kershaw, vars företag driver på utvecklingen, tror själv att det behövs någon form av självsanering i branschen.

– Vi behöver skriva under på ett löfte om att tekniken inte ska användas i oetiska syften, och att exempelvis införa digital vattenmärkning för att skilja äkta från fejk.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer