Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video

Webbläsaren stöds inte

SVT stödjer inte uppspelning i din webbläsare. Vi rekommenderar därför att du byter till en annan webbläsare.
EU-kommissionären: ”Omfamna artificiell intelligens, men var försiktig”

EU kritiseras för satsning på lögndetektor

Uppdaterad
Publicerad

Ett forskningsprojekt om tillämpning av artificiell intelligens för att avslöja lögnare vid gränskontroller, får hård kritik. ”Det är stor risk att folk anklagas felaktigt”, varnar Europaparlamentarikern Patrick Breyer som stämt EU-kommissionens forskningsorgan vid EU-domstolen.

iBorderCtrl heter ett avslutat forskningsprojekt som finansierats av EU. Hur pengarna använts och hur det lyckades är det ingen som vet. Det är hemligstämplat. ”Affärshemligheter” är motiveringen. Trots att det är skattepengar som finansierat det. Det man vet är att det syftade till att med hjälp av artificiell intelligens avslöja lögnare vid gränskontrollen. En virtuell passkontrollant frågar ut dig och bedömer om dina svar är trovärdiga.

Detta testades vid tre gränsövergångar i EU. Vid en av dem lyckades en journalist bli utvald som försöksperson. Fyra av hennes sexton svar bedömdes som lögn, trots att hon svarat ärligt på alla frågor. Enligt tyske EU-parlamentarikern Patrick Breyer (Piratpartiet), bevisar det att tekniken är opålitig, och användandet av den farlig. 

– Det är stor risk att folk anklagas felaktigt. USA testade det här för ett par år sedan, och upphörde efter två år. Jag är säker på att de hade sina anledningar att lägga ned det.

Forskningsorgan inför domstol

Breyer är upprörd över hemlighetsmakeriet som tillåts omgärda EU-finansierade forskningsprojekt som detta. Han undrar varför skattepengar ska gå till saker som skattebetalarna inte får insyn i och har därför stämt EU:s forskningsorgan REA inför EU-domstolen. 

– Jag begär tillgång till dokument och en laglig prövning av om det här är förenligt med fundamentala rättigheter inom EU. Utslaget blir prejudicerande för hanteringen av EU:s framtida forskningsprojekt. 

Delar av teknologin bakom iBorderCtrl fortsätter utforskas i pågående projektet Tresspass. Där finns ”stress-avslöjaren”, en slags lögndetektor och en riskbedömning som bland annat bygger på om du betalade biljetten med kontanter.

Reglering av AI

EU-kommissionen har nyligen föreslagit reglering av användandet av AI, som i sådana här fall klassas som ”hög risk”. Men ansvarig kommissionär, Margrethe Vestager, ser det inte som ett problem att man samtidigt som man höjer varningsflagg, också finansierar sådana projekt. 

– Tvärtom, det förstärker vårt budskap: omfamna artificiell intelligens, men var försiktig när det används i situationer där fördomar kan byggas in och det riskerar mänskliga rättigheter, säger hon till SVT. 

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer