Max Tegmark har flera gånger varnat för riskerna med artificiell intelligens. I veckan skrev han tillsammans med flera andra forskare, politiker och företagsledare under ett uttalande från Center for AI Safety där man pekade ut AI som ett existentiellt hot i likhet med pandemier och kärnvapenkrig.

I SVT:s 30 minuter utvecklar Tegmark vad han menar med att AI skulle kunna utrota mänskligheten.

Han drar paralleller till djurarter som nyligen har utrotats och menar att detta skett eftersom människor varit den intelligentaste varelsen.

– Det vi varnar för nu är att om vi människor tappar kontrollen över vårt samhälle till maskiner som är mycket smartare än oss, då kan det gå lika illa, säger han i programmet.

50 procent risk

Hur detta skulle gå till kan vi inte veta och det beror enligt Tegmark på att en mindre intelligent art inte kan föreställa sig hur det går till när någon mer intelligent art utrotar dem.

– Exakt hur det skulle gå till är ren spekulation, men att det kommer att hända är väldigt troligt, jag skulle säga mer än 50 procent risk, säger han.

När Tegmark får frågan om hur han kan vara säker på att risken är så hög drar han paralleller till hur det sett ut i historien när en ny smartare art dykt upp.

– I stort sett varje gång har det gått ganska dåligt för dem som brukade vara smartast innan, säger han.

Behövs reglering

Politikerna behöver ta hotet från AI på allvar menar han och efterlyser en tuffare reglering av företagen i likhet med hur det ser ut i läkemedelsbranschen.

Ett läkemedelsföretag får till exempel inte börja sälja sin medicin innan det genomgått noggranna kontroller av Läkemedelsverket.

– Det är företagens ansvar att bevisa att det som de säljer inte har stora risker innan de får tillstånd, i dag är det precis tvärt om, det är vilda västern.