Tre sätt där AI kan vara diskriminerande

Publicerad

En ansiktsigenkänning som bara tränats på vita män kommer att fungeras sämre på mörkhyade kvinnor. Det är ett av många exempel, enligt Anna Felländer, grundare av ”AI Sustainability Center”.

AI och maskininlärning har blivit en allt större del av våra liv och teknologin används nu även för att fatta viktiga beslut. Detta kan leda till så kallad ”algoritmisk diskriminering” i till exempel en AI-baserad jobbrekrytering.

– AI lär sig av historiska preferenser och historiska kriterier. Därav rekommenderas ofta vita män i chefs-sammanhang, säger Anna Felländer.

Hör tre exempel på när det kan vara diskriminerande i videon ovan.

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.