Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video
I videon visar SVT Nyheter hur liknande AI-explosionsbilder kan skapas, fast med Stockholm som motiv – och hur du kan se att bilderna är fejk. Foto: Pexels/Faksimil

Den här bilden på en Pentagon-explosion orsakade börskaos – trots att den var AI-fejk

Publicerad

”Explosion nära Pentagon!” utropas det i en rad inlägg på Twitter. Bilden ser vid första anblick trovärdig ut och fick snabbt storspridning i sociala medier, något som ledde till att börskursen tillfälligt föll i USA.

Men någon explosion hade aldrig ägt rum. Fotot var fejk – sannolikt genererat av artificiell intelligens.

Bilden visar rök som bolmar, tjock och svart.

Röken ser ut att komma från området i anslutning till en vit byggnad i en park, omgiven av höga stängsel.

Och plötsligt är den överallt i sociala medier.

Två tweets om den påstådda explosionen. Foto: Faksimil

Den delas av statskontrollerade ryska mediehuset RT på Twitter. Ett flertal konton med blåa verifieringsbockar delar också bilden, däribland ett konto som utger sig för att vara nyhetssajten Bloomberg. Alla påstår att en explosion ägt rum vid Pentagon i USA.

Men det är inte äkta Bloomberg News.

Och bilden de delar är inte heller äkta – utan med all sannolikhet en AI-fejk.

Trots att brandkåren dementerade påståendet i sociala medier ledde spridningen till en kortvarig nedgång på börsen i USA, enligt AP.

Händelsen demonstrerar flera av samtidens orosmoment:

Att vem som helst kan köpa till sig ett blått verifierat konto på Twitter, påstå sig vara en officiell nyhetssajt, och börja sprida desinformation. Att lättillgängliga AI-verktyg kan generera realistiska bilder, som används för att ”bevisa” en massa olika falska påståenden. Att AI-skapade bilder till och med kan påverka börsen.

Det går snabbt att skapa en liknande bild. På bara någon minut kan SVT generera en rad realistiska AI-bilder som visar en explosion, fast den här gången i Stockholm istället för Washington.

I videon ovan kan du se AI-bilderna – och vår genomgång av detaljerna som pekar på att bilderna är fejk.

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.