Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video
Experten Kristian Rönn varnar för att AI kan innebära ett massivt flöde av lögner förpackade som journalistik. Foto: SVT

Techexperten: ”Vem som helst kan med AI skapa en miljon fake news-artiklar”

Uppdaterad
Publicerad

Det är julafton för propagandamakare. De senaste framstegen inom artificiell intelligens möjliggör massproduktion av desinformation på en helt ny nivå.

Den senaste tidens uppmärksammade applikationer för att generera text, bild, ljud och video gör det möjligt för vem som helst att skapa innehåll som ser hyfsat bra ut. Open AI, som ligger bakom chatboten Chat GPT, konstaterar i en analys att tekniken kan driva ned kostnaden för att bedriva påverkansoperationer så att fler aktörer har råd att missbruka AI i desinformationssyfte.

Sprida propaganda

Det saknas inte exempel på att de har rätt.

Amerikanska undersökningsföretaget Graphika, som studerar desinformation online, visar i en färsk rapport hur en pro-kinesisk påverkansgrupp nyttjar tekniken. Financial Times rapporterade nyligen om liknande propagandaspridning med hjälp av syntetisk video i Venezuela till stöd för Maduro-regimen.

– I Venezuelas informations-öken frodas desinformationen och nu finns tekniken för att skapa övertygande fake news-videor, säger Adrián González, representant för organisationen Cazadores de Fake News som avslöjar desinformation, till tidningen.

I flera av fallen har videoklippen skapats med ett verktyg från det Londonbaserade företaget Synthesia. Deras applikation gör det möjligt att snabbt och enkelt skapa video med avatarer, som är förinspelade skådespelare som kan fås att säga vad man vill på över 120 olika språk

Synthesia uppger att det strider mot företagets användarvillkor att sprida felaktig information och att de som missbrukat tjänsten stängts av.

Skapa desinformation snabbt

Kristian Rönn, med en bakgrund inom datavetenskap och artificiell intelligens, drar som vd för Normative nytta av AI i det dagliga arbetet. Men han oroas över hur tekniken också kan användas för andra syften.

– Vem som helst kan be en AI skriva en miljon fake news-artiklar, mer än någon journalist någonsin kommer att kunna faktagranska. Desinformation på en skala som vi inte vet hur vi kan hantera.

Se SVT:s Alexander Noréns AI-avatar i klippet ovan.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App Store
Ladda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.