Automatisering har på många vis varit receptet bakom techjätten Amazons dominans på e-handelsmarknaden, och 2014 inleddes ett försök att också mekanisera delar av processen bakom Amazons sökande efter arbetskraft. En rekryteringsrobot skulle scanna och betygsätta jobbkandidaters cv:n, och på så vis ta fram fram potentiella jobbkandidater till Amazons rekryterare.

Senare upptäckte Amazons maskininlärningsexperter att systemet var allt annat än vattentätt.

Tränade på mäns cv:n

När rekryteringsverktyget letade talanger nedgraderade den konsekvent alla cv:n som visade tecken på att den sökande var kvinna. Cv:n som innehöll ord som ”kvinna” och ”kvinnor” prioriterades bort, likväl som samtliga sökanden som hade studerat på två olika högskolor med kvinnliga studenter. I stället favoriserades kandidater som beskrev sig själva med ord som ”executed” och ”captured”, ord som var mer vanligt förekommande i mäns cv:n, uppger källor till Reuters.

Bakgrunden var att roboten hade tränats på cv:n som Amazon tidigare hade tagit emot, varav merparten av de cv:n som inkommit var skrivna av män. Roboten hade på så vis lärt sig att inte lägga fokus på kompetenser som var vanligt förekommande hos kvinnor, i själva verket hade den lärt sig att de kandidater som var att föredra var män.

”Omsattes aldrig i praktiken”

Amazons rekryterare tittade på de rekommendationer som rekryteringsverktyget genererade, men de utgick inte bara från robotens rankningar när de letade jobbkandidater.

Efter upptäckten gjorde Amazon försök att komma tillrätta med robotens könsdiskriminerande algoritmer, men lade till slut ner projektet eftersom man inte kunde garantera att roboten inte diskriminerade på andra sätt.

Amazon har avböjt att ställa upp på intervju men en talesperson från Amazon skriver i ett mail till SVT Nyheter att rekryteringsverktyget aldrig omsattes i praktiken, och att det avslutades på försöksstadiet.

Amazons AI-experiment gav ändå frukt, företaget använder fortsatt en rekryteringsmotor som hjälper till med enklare uppgifter som att identifiera dubbla kandidatprofiler från olika databaser, skriver Reuters.