En vd för en vapentillverkare står på scenen för att visa upp företagets senaste produkt: En minidrönare, bestyckad med sprängämnen och helt självstyrande med AI. Inför en entusiastisk publik flyger drönaren genom salen och exploderar i pannan på en testdocka.
”Den där lilla smällen räcker för att penetrera skallbenet och förstöra det som är innanför”, säger den nöjda vd:n i klippet.
Youtube-filmen har närmare tre miljoner visningar och är framtagen som ett varnande exempel av organisationen ”Förbjud dödliga autonoma vapen”. Men fiktionen, en blandning av ett avsnitt av tv-serien Black Mirror och ett Apple-jippo, kan vara på väg att bli verklighet.
Sverige på plats på konferens
I London hölls i veckan ett evenemang om landbaserade militära robotar och automatiserade vapensystem. Även svenska myndigheter närvarade.
– Det är framför allt Storbritannien och USA som är framträdande på konferensen och berättar om sina ganska ambitiösa planer på området. Allt från mindre, terränggående fordon till stora stridsfordon, säger Carl-Martin Larsson vid Försvarets materielverk.
– Vi har i uppgift från Försvarsmakten att lära oss mer, men inte i dagsläget att anskaffa eller föra in funktionerna i Sverige. De obemannade systemen som vi har är olika typer av spaningsflygplan, säger han till SVT.
”Korta beslutstider”
Fördelarna som förs fram med de automatiserade systemen är att de blir billigare då man slipper personal, och att de är snabbare och effektivare än vad en människa kan vara.
– Det finns alltid förhoppningar om att kunna göra system billigare med automation, men i militära sammanhang har man en duell med en motståndare och då är det egentligen prestanda man hoppas på, säger Martin Hagström som är forskningsledare inom systemteknik på Totalförsvarets forskningsinstitut (FOI).
– För automatiska system handlar det om korta beslutstider, att kunna och sikta och skjuta på väldigt kort tid.
Snabbare än vad människan kan uppfatta?
– Ja, till exempel.
Generalsekreteraren: Moraliskt förkastliga
Men många vänder sig mot utvecklingen. FN:s generalsekreterare Antonio Guterres kräver ett förbud för vapensystem som kan välja sina måltavlor utan mänsklig kontroll.
”Autonoma maskiner med förmåga och befogenhet att välja mål och döda utan mänsklig inblandning är politiskt oacceptabla, moraliskt förkastliga och bör förbjudas i internationell lag.”, skrev Guterres i ett twitterinlägg inför ett FN-sammanträde om AI och vapen förra veckan.
Sammanträdet ägde rum i Genève inom ramen för Konventionen om särskilt inhumana vapen. Martin Hagström på FOI närvarade, och han säger att en av svårigheterna med ett förbud är att det är svårt att veta exakt vad som ska förbjudas eller regleras. Redan i dag finns autonoma vapensystem, som luftvärnssystem på fartyg, men ingen militär vill ha vapen som är helt självbestämmande, säger han.
– För alla som är utbildade i militäroperationer är det självklart, men det blir ett stort avstånd till de som ser farhågorna och inte litar på att militären fullt ut tar det här ansvaret.
Det blir inte lättare av att man diskuterar teknik som i vissa fall ännu inte existerar.
– Om ett förbud ska vara meningsfullt måste det gå att implementera, övervaka och följa upp, säger Martin Hagström.
I söndagens Agenda intervjuades Max Tegmark, professor i fysik vid MIT i Boston, och en av världens ledande AI-debattörer. Intervjun går att se här, ca 25 minuter in i programmet.