Amazon zrezygnował z algorytmów w rekrutacji. Dyskryminowały kobiety

PAP/DI
opublikowano: 10-10-2018, 14:49

Okazało się, że narzędzie, nad którym firma pracowała od 2014 roku, dyskryminowało ubiegające się o pracę kobiety - poinformowała agencja Reutera.

Narzędzie stosowane przez Amazona analizowało dokumenty przesyłane przez ubiegające się o pracę osoby, a następnie przyznawało im punkty w pięciostopniowej skali. System punktacji kandydatów przypominał ten stosowany w sklepie internetowym Amazona do oceny nabywanych produktów. Algorytmy firmy posiłkowały się przy tym powtarzalnymi wzorami rozpoznanymi w CV, które trafiały do firmy przez 10 lat.

- Oczekiwania wobec systemu były takie, że spośród CV stu kandydatów algorytm odsieje pięcioro najlepszych, którzy następnie zostaną zatrudnieni - powiedziała jedna z osób zbliżonych do sprawy.

Koncern miał zrozumieć, że nowy system nie ocenia aplikantów w sposób neutralny, już w 2015 roku. Miało to związek ze znacznie większą liczbą mężczyzn wśród osób zgłaszających się do pracy w sektorze technologicznym. Wskutek tej dysproporcji system nauczył się, że to osoby płci męskiej są preferowanymi kandydatami do pracy na stanowiskach inżynierów oprogramowania bądź menedżerów produktu. Dokumenty, w których znalazły się słowa częściej stosowane przez mężczyzn, uzyskiwały wyższą ocenę, a te wskazujące na płeć żeńską - pojawiające się np. w kontekście "żeńskiej szkoły średniej" - niższą.

Amazon wielokrotnie starał się poprawić działanie algorytmów. Jednak, że wprowadzane zmiany nie gwarantowały neutralności działania maszyn i nie chroniły przed wystąpieniem dyskryminacji innego rodzaju. Ostatecznie Amazon rozwiązał pracujący nad nimi zespół inżynierów na początku 2017 roku. Od tego czasu firma powołała w Edynburgu nowy zespół do prac nad podobnym projektem, tym razem z naciskiem na promowanie różnorodności wśród rekrutowanych pracowników.

Osoby znające szczegóły sprawy podkreśliły, że rekruterzy Amazona posiłkowali się w swojej pracy sugestiami dostarczanymi przez narzędzie, jednak nie polegali wyłącznie na działaniu sztucznej inteligencji. Obecnie okrojona wersja oryginalnego systemu wciąż jest wykorzystywana do prostych zadań w rodzaju odsiewania duplikatów zgłoszeń.

Zgodnie z ubiegłorocznym badaniem firmy CareerBuilder około 55 proc. menedżerów ds. rekrutacji z USA przewiduje, że sztuczna inteligencja i algorytmy w ciągu następnych pięciu lat staną się narzędziem codziennie wykorzystywanym w ich pracy.

© ℗
Rozpowszechnianie niniejszego artykułu możliwe jest tylko i wyłącznie zgodnie z postanowieniami „Regulaminu korzystania z artykułów prasowych” i po wcześniejszym uiszczeniu należności, zgodnie z cennikiem.

Podpis: PAP/DI

Polecane

Inspiracje Pulsu Biznesu

Puls Biznesu

Puls Innowacji / IT&Internet / Amazon zrezygnował z algorytmów w rekrutacji. Dyskryminowały kobiety