– I dag presenterar vi vår ambition för att forma Europas digitala framtid. Den täcker allt från cybersäkerhet till kritisk infrastruktur, digital utbildning till färdigheter, demokrati till media, säger EU-kommissionens ordförande Ursula von der Leyen.
Kommissionen lyfter exempelvis fram hur AI när det använts för att förenkla rekryteringsprocessen visat sig diskriminera i urvalet. Ansiktsigenkänning, som bygger på artificiell intelligens, har också visat sig kunna fungera diskriminerande på grund av att AI:n varit bättre på att känna igen en viss sorts ansikten än andra.
Polisen dras till teknologin
Just ansiktsigenkänning är en tillämpning som rönt mycket uppmärksamhet i och med att allt fler företag börjar använda det, exempelvis vid ombordstigning på flyget eller för att ta betalt i butiken. Inte minst alla polismyndigheter världen över dras till teknologin som bevisligen kunnat effektivisera sökandet efter misstänkta, men det har också eldat på debatten om var gränsen ska gå för när den personliga integriteten är hotad.
I en ”vitbok” som läckt inför dagens presentation listade EU-kommissionen ett tillfälligt förbud mot ansiktsigenkänning på offentliga platser som en möjlighet. Men i det man nu går ut med finns inte det med som ett huvudalternativ. Istället talar man om att vissa områden ska klassificeras som ”hög-risk”, såsom hälsa, polis och transport, och att man där ska kunna ställa krav på transparens, spårbarhet och mänsklig kontroll.
Nationella myndigheter ska kontrollera att de kraven efterlevs ”på samma sätt som sker i dag vad gäller säkerheten kring bilar, kosmetika och leksaker”, som EU-kommissionen själv uttrycker det.
Vill att EU-länder ska kontrollera AI mer
Samtidigt som EU-kommissionen alltså lyfter ett varningens finger och vill att medlemsländernas myndigheter ska kontrollera AI mer, så vill man också att EU ska satsa mer på teknologin. Varje land bör ha minst en ”digital innovationshub” specialiserad på AI, det bör skapas statliga och privata samarbeten kring AI och automatisering, och för detta vill kommissionen avsätta 17,5 miljarder euro.
I förslagspaketet om ”Europas digitala framtid” lyfter man också fram behovet av att EU måste bli ett ”European data space”, en gemensam marknad för data, som tillgängliggör outnyttjad data inom exempelvis offentlig sektor, och tillåter datan att flöda fritt inom unionen för användning av företag och organisationer.
– Vårt samhälle genererar en enorm mängd av data från industrin och det allmänna, som kommer förändra hur vi tillverkar, konsumerar och lever. Europeiska företag bör få tillgång till denna data för att skapa värde för medborgarna, bland annat med tillämpning inom artificiell intelligens, säger Thierry Breton, kommissionär för den inre marknaden.
