I filmen terminator etablerades kriget mellan människa och maskin. Nu har ledande AI forskare skrivit under på att inte utveckla så kallade mördarrobotar. Foto: TT

Forskarnas löfte: Vi ska inte bygga mördarrobotar

Publicerad

Det har kallats tredje generationens krigsföring – artificiella intelligenser som tar beslut att döda människor. I samband med en stor AI-konferens i Stockholm har ledande AI-forskare och företagsledare meddelat att de nu skrivit under ett löfte att inte utveckla mördarrobotar.

Redan för över 30 år sedan etablerades kriget mellan människa och maskin i filmen Terminator. Rädslan för intelligenta robotar som inte lyder blev ett filmfenomen i och med premiären av 2001, ett rymdäventyr och flera moderna filmer har skildrat robotar som spårar ur, i till exempel I robot.

– Det som de visar i filmerna är definitivt fortfarande science fiction. Dit är det fortfarande 50 eller 100 år. Men det finns mycket enklare teknik som kommer att användas de närmaste 5 eller 10 åren som vi borde vara oroade över, säger Toby Walsh, professor i artificiell intelligens vid universitetet i Nya Sydwales, Australien. 

Lovar att inte utveckla mördarrobotar

Utvecklingen av mördarrobotar har kallats tredje generationens krigsföring. Den första generationen var uppfinnandet av krutet, den andra atombomben. Nu väntar alltså mördarroboten. Ledande AI-forskare och företagsledare över hela världen har för första gången skrivit under ett löfte för att hindra att det sker – ett löfte att inte utveckla mördarrobotar. 

–Jag är väldigt glad nu att vi fått så många AI-forskare och AI-företag som Google deep mind att skriva under det här löftet. Jag är glad att de visar att de inte tänker sitta och rulla tummarna medan politikerna inte gör någonting, säger Max Tegmark, en av initiativtagarna till löftet och fysiker vid MIT, Massachusetts tekniska institut.

Men människor gör ju också misstag. Är det inte bra att ha mer precision när det handlar om så allvarliga saker som militära vapen?

– En del brukar säga att det är bättre att byta ut mänskliga soldater mot robotar som inte blir stressade och gör misstag. Men då ska man komma ihåg att det som terrororganisationen IS tycker är ett misstag är att inte döda just civila. Det är de som har de här robotarna som använder dem till vad sjutton de vill, säger Max Tegmark. 

I löftet förespråkas inget totalförbud mot artificiell intelligens i vapen eller militära sammanhang. Flera forskare och företagsledare tycker fortfarande att det är okej, så länge en människa tar beslutet att döda. Frågan har diskuterats regelbundet i FN sedan 2014, men hittills har bara 26 länder ställt sig bakom ett internationellt förbud och en reglering.

Sverige

Sverige är inte ett av de länderna, enligt organisationen Stop killer robots som följer frågan.

Utrikesminister Margot Wallströms pressekreterare bekräftar detta till SVT Nyheter. I ett mejl skriver han att Sverige visserligen ”framhållit behovet av mänsklig kontroll”, men också att ”det går inte att enkelt koka ner frågan till om man är för eller emot ett förbud eftersom det är inte är tydligt vad det är som ska förbjudas.”

– Som svensk tycker jag att det är väldigt pinsamt att Sverige har vägrat att ställa sig bakom det här. Det är en otrolig flathet från vårt land som brukade ligga i bräschen för etisk användning av teknik, säger Max Tegmark.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer