Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video

Webbläsaren stöds inte

SVT stödjer inte uppspelning i din webbläsare. Vi rekommenderar därför att du byter till en annan webbläsare.
EU-kommisionären Margrethe Vestager ser en risk att algoritmbaserade beslutssystem bygger in fördomar. Foto: SVT

EU vill förbjuda farlig AI

Uppdaterad
Publicerad

Artificiell intelligens som kan skada människor ska regleras. Ansiktsigenkänning och självkörande bilar klassas som hög risk. ”Användandet av AI kommer bara öka, det måste bli mer transparent hur det tillämpas”, säger EU-kommissionär Margrethe Vestager till SVT.

EU-kommissionens regleringspaket klassar viss användning av artificiell intelligens som extra riskabel. Det handlar bland annat om självkörande fordon eller automatiserad bedömning vid rekrytering och kreditgivning. Margrethe Vestager ser en risk för att sådana algoritmbaserade beslutssystem bygger in fördomar då historiska data, som de ofta bygger på, kan vara snedvridna:

Diskriminering en risk

– Det finns risk för diskriminering. Du kanske inte får jobbet du söker bara för att du är kvinna, du får inte lånet beviljat för att du tillhör en minoritet, det handlar om fundamentala saker i våra liv, där våra värderingar är hotade.

Särskild vikt läggs vid ansiktsigenkänning. När det används kontinuerligt i övervakningssyfte på ett automatiserat sätt ska det i princip vara förbjudet på allmänna platser. Undantaget, säger Vestager, är polis och myndigheter med särskilt tillstånd.

– I ett begränsat antal situationer, exempelvis när man letar efter en terrorist eller ett försvunnet barn.

Inga ”sociala betyg”

EU-kommissionens reglering vill också helt förbjuda myndigheter att ägna sig åt någon form av ”social betygsättning” såsom det utvecklats i Kina där medborgare får en klassificering beroende på hur väl de sköter sig i samhället.

– Som när en stat noterar ditt beteende, om du kör mot rött ljus eller är sen med att betala hyran, och därför skulle sätta dig under extra lupp i övrigt. Det ska vara helt förbjudet.

Experten: Skarpt paket

Annars handlar det mycket om företags skyldigheter, att de som använder artificiell intelligens måste ange det för kunder i situationer där det kan påverka deras beslut i viktiga frågor och vara öppna med hur dataprogrammen fungerar så beslutsmodellerna kan granskas av myndigheter. Företag som bryter mot reglerna riskerar miljardböter av EU.

– EU:s regleringspaket är skarpt. Med ett etiskt filter, synliggörandet av etiska avvägningar mellan vinst och värderingar, så kommer vi få AI-applikationer som vi känner oss mer trygga med, tror AI-experten Anna Felländer på AI Sustainability Center.

Detta är AI: Så kan superintelligens hota mänskligheten

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer