Till vänster originalfilmen där Facebooks grundare Mark Zuckerberg pratar om rysk valpåverkan, till höger den manipulerade videon som skapats av en brittiskt konstprojekt. Klicka på bilden för att se filmerna och höra journalisten Frida Boisen och AI-forskaren Mårten Björkman diskutera så kallade deepfakes. Foto: SVT

Facebook ville inte plocka ner fejkvideo – då blev Zuckerberg nästa offer

Publicerad

Den ökade förekomsten av fejkad video skapad med artificiell intelligens håller på att bli en allt större utmaning för medier och sociala plattformar. I dagarna blev Facebooks grundare Mark Zuckerberg själv utsatt för fenomenet.
– Jag tror att vi får vänja oss vid tanken att allt vi ser inte nödvändigtvis är sant, säger Mårten Björkman, AI-forskare på KTH.

I helgen släpptes en video på Facebookägda Instagram där Mark Zuckerberg något robotaktigt säger:  

“Föreställ er detta för en sekund: en man med fullständig kontroll över miljarder människors stulna data, deras liv, hemligheter och framtid. Den som har kontroll över data har kontroll över framtiden.”  

Bakom det förvrängda klippet ligger det brittiska konstprojektet Spectre som drivs av två brittiska konstnärer och en reklambyrå.  Att just Zuckerberg blev föremål för en så kallad “deep fake” är ingen slump. 

Berusad Nancy Pelosi i fejkvideo

För några veckor sedan uppmanades Facebook att plocka ner en redigerad video på Demokraternas talman i kongressen, Nancy Pelosi, där hon framstod som berusad. Klippet skapades sedan Fox News publicerat ett klipp, som twittrades ut av president Donald Trump, där tempot har sänkts så att det framstår som att Pelosi stammar.

Facebook beslöt att behålla videon men lät den sjunka i rankning.  En företrädare för företaget sade att man skulle göra likadant om det dök upp en fejkad video på Zuckerberg.  

Lätt att använda

Tekniken bakom deep fakes är avancerad att konstruera, men lätt att använda. I dag finns mjukvara tillgänglig för den som vill experimentera, säger Mårten Björkman, AI-forskare på KTH.

-Tekniken man använder kallas generativa djupa neurala nätverk. Normalt så försöker man avgöra, “vad är det vi ser på bilden”? I de här fallen kastar man om och försöker skapa en ny bild utifrån önskemål, säger han. 

De allra bästa exemplen på deep fake är gjorda av professionella. Om det är video av bättre kvalité kan den som studerar detaljerna ganska lätt uppfatta att det inte är naturligt. Men det är inte lika enkelt när det rör sig om lågupplöst video som sveper förbi på internet, säger Mårten Björkman.  

– Samtidigt är det så starkt när vi ser en video att vi tror på det. Även om någon säger att det inte är sant så blir vi ändå påverkade.

Se video och diskussionen om deep fakes i SVT:s Morgonstudion i klippet högst i artikeln

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer