Amazones mākslīgais intelekts, kas paredzēts darba meklētāju atsākumu sakārtošanai, ierindoja vīriešus augstāk nekā sievietes. Jo īpaši viņš noraidīja CV ar vārdu “sievišķīgs” un piedāvāja nolīgt kandidātus, kuri savā runā lietoja tipiskus vīrišķīgus darbības vārdus, pat ja šiem cilvēkiem nebija nepieciešamo prasmju. Tā rezultātā uzņēmumam bija jāslēdz projekts.
Mākslīgais HR intelekts
Amazones mašīnmācības eksperti ir noskaidrojuši, ka mākslīgais intelekts, kas apstrādā kandidātu atjaunošanu amatam uzņēmumā, diskriminē darba meklētājas sievietes, ziņoja Reuters. Šī funkcija tīši netika iekļauta sistēmā - tā bija mašīnmācīšanās rezultāts.
Kopš 2014. gada Amazon izstrādā 12 cilvēku personālu Edinburgā, uz mākslīgā intelekta balstītu atsākšanas šķirošanas motoru. Jau 2015. gadā uzņēmums pamanīja, ka jaunā sistēma, novērtējot programmatūras izstrādes amatu kandidātus un citas tehniskās vakances, neievēro dzimumu neitralitātes principu.
Drīz viņi saprata iemeslu: fakts ir tāds, ka sistēma tika apmācīta pēc atsākumiem, ko uzņēmums ir ievadījis pēdējo 10 gadu laikā. Lielāko daļu šo atsākumu rīkoja vīrieši, kas kopumā atspoguļo situāciju IT nozarē. Tā rezultātā Amazones mākslīgais intelekts uzzināja, ka vīriešu darba meklētāji tiek doti priekšroka salīdzinājumā ar sievietēm.
Lingvists noraidījums
Reklāmas video:
Tā rezultātā mākslīgais intelekts sāka atbrīvoties no atsākšanas, kurā bija vārds "sieviete" tādās izpausmēs kā "sieviešu šaha kluba kapteinis". Mehānisms pazemināja arī divu sieviešu koledžu absolventu atzīmes, taču Reuters avoti viņu vārdus nenorādīja. Novērtējot atsākšanu, mākslīgais intelekts tām piešķīra no vienas līdz piecām zvaigznēm - ļoti līdzīgas tam, kā pircēji vērtē produktus Amazon.
Sistēma pievērsa uzmanību arī citiem vārdiem. Izstrādātāji ir izveidojuši 500 datoru modeļus dažādiem darba pienākumiem un ģeogrāfiskajām vietām. Katrs modelis tika apmācīts atpazīt apmēram 50 tūkstošus signālvārdu, kas bija pieteikuma iesniedzēja CV.
Jāatzīmē, ka mehānisms ignorēja vārdus, kas apzīmē prasmes, kuras bieži tiek uzrakstītas IT speciālistu atsākumā, piemēram, spēju rakstīt dažādus kodus utt. Tā vietā sistēma izseko, piemēram, tipiskus vīriešu runas darbības vārdus kandidātu pašaprakstā, piemēram, “izpildīta”. (izpildīts) vai "notverts", jo tie tika regulāri redzēti vecos atsākumos, no kuriem mašīna mācījās. Izmantojot šo pieeju, dzimumu diskriminācija nebija vienīgā problēma - mehānisms bieži ieteica cilvēkus, kuriem nebija amatam nepieciešamo prasmju.
Projekta tālākais liktenis
Amazon ir pielāgojis sistēmu tā, lai tā vairs nereaģētu uz signālvārdiem. Tomēr tas negarantēja, ka mehānisms neatradīs citu veidu, kā identificēt atsākumus, kas pieder sievietēm. Līdz 2017. gada sākumam uzņēmums bija vīlušies projektā un izformēja komandu. Reuters avoti vēsta, ka personāla atlases speciālisti ir ņēmuši vērā sistēmas ieteikumus, bet nekad nav paļāvušies tikai uz tiem.
Viens no avotiem saka, ka projekts ir slēgts. Cits apgalvo, ka Edinburgā tika izveidota jauna komanda, lai turpinātu attīstīt mehānismu, taču šoreiz galvenā uzmanība tika pievērsta taisnīgumam un iekļaušanai. Cits avots ziņo, ka ļoti modificēta motora versija tagad tiek izmantota ikdienas darbu veikšanai, piemēram, atkārtotu datu kopiju noņemšanai no datu bāzes.