Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video

Webbläsaren stöds inte

SVT stödjer inte uppspelning i din webbläsare. Vi rekommenderar därför att du byter till en annan webbläsare.
SVT förklarar: Så fungerar kommersiell ansiktsigenkänning

EU gasar på och varnar för AI

Uppdaterad
Publicerad

EU-kommissionen lägger i dag fram ett stort digitalt paket med en strategi för hur man både ska kunna vara världsledande på artificiell intelligens, AI, samtidigt som medborgarnas rättigheter inte kränks av teknologin, som redan bjudit på skrämmande exempel när den används fel.

– I dag presenterar vi vår ambition för att forma Europas digitala framtid. Den täcker allt från cybersäkerhet till kritisk infrastruktur, digital utbildning till färdigheter, demokrati till media, säger EU-kommissionens ordförande Ursula von der Leyen.

Kommissionen lyfter exempelvis fram hur AI när det använts för att förenkla rekryteringsprocessen visat sig diskriminera i urvalet. Ansiktsigenkänning, som bygger på artificiell intelligens, har också visat sig kunna fungera diskriminerande på grund av att AI:n varit bättre på att känna igen en viss sorts ansikten än andra.

Polisen dras till teknologin

Just ansiktsigenkänning är en tillämpning som rönt mycket uppmärksamhet i och med att allt fler företag börjar använda det, exempelvis vid ombordstigning på flyget eller för att ta betalt i butiken. Inte minst alla polismyndigheter världen över dras till teknologin som bevisligen kunnat effektivisera sökandet efter misstänkta, men det har också eldat på debatten om var gränsen ska gå för när den personliga integriteten är hotad.

I en ”vitbok” som läckt inför dagens presentation listade EU-kommissionen ett tillfälligt förbud mot ansiktsigenkänning på offentliga platser som en möjlighet. Men i det man nu går ut med finns inte det med som ett huvudalternativ. Istället talar man om att vissa områden ska klassificeras som ”hög-risk”, såsom hälsa, polis och transport, och att man där ska kunna ställa krav på transparens, spårbarhet och mänsklig kontroll.

Nationella myndigheter ska kontrollera att de kraven efterlevs ”på samma sätt som sker i dag vad gäller säkerheten kring bilar, kosmetika och leksaker”, som EU-kommissionen själv uttrycker det.

Vill att EU-länder ska kontrollera AI mer

Samtidigt som EU-kommissionen alltså lyfter ett varningens finger och vill att medlemsländernas myndigheter ska kontrollera AI mer, så vill man också att EU ska satsa mer på teknologin. Varje land bör ha minst en ”digital innovationshub” specialiserad på AI, det bör skapas statliga och privata samarbeten kring AI och automatisering, och för detta vill kommissionen avsätta 17,5 miljarder euro.

I förslagspaketet om ”Europas digitala framtid” lyfter man också fram behovet av att EU måste bli ett ”European data space”, en gemensam marknad för data, som tillgängliggör outnyttjad data inom exempelvis offentlig sektor, och tillåter datan att flöda fritt inom unionen för användning av företag och organisationer.

– Vårt samhälle genererar en enorm mängd av data från industrin och det allmänna, som kommer förändra hur vi tillverkar, konsumerar och lever. Europeiska företag bör få tillgång till denna data för att skapa värde för medborgarna, bland annat med tillämpning inom artificiell intelligens, säger Thierry Breton, kommissionär för den inre marknaden. 

Lokal. Lättanvänd. Opartisk. Ladda ner appen nu!

Hämta SVT Nyheter i App StoreLadda ned SVT Nyheter på Google Play

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer