Utvecklingen av självkörande bilar ställer frågor om vad människor förväntar sig av självstyrande algoritmer. Foto: TT

Ska bilen kunna offra sin ägare?

Uppdaterad
Publicerad

Flera företag, bland annat Google, experimenterar med förarlösa bilar. Men hur ska dessa agera i komplexa situationer? En självkörande bil som offrar en människa framför tio räddade liv skulle vara en så kallad utilitaristisk bil. Det låter kanske som det mest rätta och mänskliga vid första eftertanke. Men moraliska beslut vid utveckling av artificiell intelligens visar sig vara mycket mer komplicerat enligt en amerikansk undersökning.

Tänk dig att du är på väg att bli påkörd av en bil i hög hastighet som kommer från sidan. Risken är stor att du och din partner i bilen skulle dö av skadorna från krocken. Men du kan räddas, om din bil blixtsnabbt kör rakt framåt. Då kommer du dock att köra in i tre skolbarn på väg hem från skolan, vilka sannolikt kommer att dö av din bils våldsamma påkörning. Så vad ska du göra? Rädda ditt eget och din partners liv, eller fly från den bil som kör mot dig – och därmed förmodligen döda skolbarnen?

Moraliska frågeställningar

I vardagens trafik hinner vår hjärna sällan göra rationella moraliska överväganden, allt går så fort. Men när det nu utvecklas självkörande bilar ställs programmerarna inför den här typen av dilemman.

I sex online-studier har deltagarna ställts inför olika scenarier där ett varierande antal fotgängare och passagerares liv kunnat räddas. Resultatet avslöjar att de flesta gillar de utilitaristiska bilarna, alltså de som offrar sina passagerare för ett högre gott, och skulle vilja att andra köper dem. Men själva skulle de föredra att åka i en självkörande bil som skyddar sina passagerare till varje pris.

Att definiera och programmera de algoritmer som ska hjälpa bilarna att göra de här valen är minst sagt en stor utmaning, menar artikelförfattarna. Och det är just sådana moraliska beslut den artificiella intelligensen står inför. Hur ska vi konstruera etiska självstyrande maskiner?

Kan kräva en helt ny typ av lagstiftning 

Självkörande bilar ska göra trafiken säkrare och författarna bakom studien skriver att lagstifta nog är nödvändigt för en etisk utveckling av tekniken. Men en reglering kan också vara kontraproduktiv. De tror att det kan det vara en lösning på problemet, men att det också skulle innebära vissa svårigheter som att lagstiftning försenar att bilarna kommer ut på marknaden vilket kan orsaka dödsolyckor istället för att fler liv kan räddas. Självkörande bilar anses nämligen av trafiksäkerhetsforskare som betydligt mer trafiksäkra än människor bakom ratten.

Samtidigt menar författarna att moraliska algoritmer behöver tackla fler svåra beslut än de man kan se i undersökningen. Ska till exempel ålder på fotgängare och passagerare påverka hur man programmerar algoritmerna?

Michael Laakasuo, doktor i filosofi, vid Helsingfors universitet tycker att undersökningen saknar en hel del problemställningar som påverkar människors beslut.

–Mänsklig moral har till exempel också utvecklat dygd -hur är en moralisk person god? Handlingarna i sig räcker inte till eftersom man måste ta hänsyn till omständigheterna också. Vilka handlingar som godtas eller får stöd beror också på vem som handlar, och vem handlingen är riktad mot.

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer