Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video
Så kan du bli lurad av manipulerad fejkvideor – så kallade deepfakes – Mattias Nieim, säkerhetskonsult vid Atea berättar i klippet. Foto: Jimmy Bäckström/SVT

Manipulerad fejkvideo allt vanligare i Norrbotten: ”Går att luras ordenligt”

Publicerad

Manipulerad fejkvideo – så kallade deepfakes – och en allt mer sofistikerad AI-teknik gör det lättare att lura och bedra sin omgivning. På senare tid har det spridits flera uppmärksammade deepfake-klipp, med bland annat politiker, i sociala medier.

– Jag kan utge mig för att vara någon annan i ett videomöte och lura dig ordenligt, säger Mattias Niemi, säkerhetskonsult vid Atea Norrbotten.

Hur företag, kommuner och landsting hanterar sin digitalisering har diskuterats flitigt under en it-mässa i Luleå. Begreppet deepfake kommer från orden ”deep learning” i meningen ”djup maskininlärning” i datorer och ”fake” i meningen ”falsk”.

De självlärande nätverken kan sätta ihop stora mängder data, till exempel många olika bilder av ett ansikte, och skapa ”levande” modeller av dem.

Så kan man upptäcka en deepfake

Den datorskapade modellen kan sedan användas till exempel i ett videoklipp där man byter ut ansiktet på en person i en video till ett datorskapat ansikte från en helt annan person – så kalla face swap.

– Man använder algoritmer (AI) för att lära sig och utföra vissa saker, så i det här fallet handlar det om bildhantering, säger Mattias Niemi.

Hur kan man upptäcka att det är en manipulerad fejkvideo?

– Man kan upptäcka deepfakes på håret, tänderna eller rörelser i ansiktet som inte är naturliga, säger Mattias Niemi.

Vara någon annan

Det går med tekniken att skapa en konstgjord modell av en existerande människa. En modell som ser ut och rör sig som sin verkliga förlaga – och som sedan kan användas exempelvis som nyhetsuppläsare i tv utan att personen överhuvudtaget är inblandad. Det är bara den datorskapade modellen som agerar.

Det är också fullt möjligt att, med de rätta AI-programmen, ersätta sitt eget utseende med någon annans, kanske någon celebritet, och sedan låta datorn förvandla rösten till en kopia av en annan person och sedan i realtid delta i ett videosamtal i rollen som någon annan.

I klippet berättar säkerhetskonsulten Mattias Niemi hur det går till att luras med deepfakes.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer