Amazon zrezygnował z algorytmów w rekrutacji. Dyskryminowały kobiety

PAP/DI
opublikowano: 10-10-2018, 14:49

Okazało się, że narzędzie, nad którym firma pracowała od 2014 roku, dyskryminowało ubiegające się o pracę kobiety - poinformowała agencja Reutera.

Narzędzie stosowane przez Amazona analizowało dokumenty przesyłane przez ubiegające się o pracę osoby, a następnie przyznawało im punkty w pięciostopniowej skali. System punktacji kandydatów przypominał ten stosowany w sklepie internetowym Amazona do oceny nabywanych produktów. Algorytmy firmy posiłkowały się przy tym powtarzalnymi wzorami rozpoznanymi w CV, które trafiały do firmy przez 10 lat.

- Oczekiwania wobec systemu były takie, że spośród CV stu kandydatów algorytm odsieje pięcioro najlepszych, którzy następnie zostaną zatrudnieni - powiedziała jedna z osób zbliżonych do sprawy.

Koncern miał zrozumieć, że nowy system nie ocenia aplikantów w sposób neutralny, już w 2015 roku. Miało to związek ze znacznie większą liczbą mężczyzn wśród osób zgłaszających się do pracy w sektorze technologicznym. Wskutek tej dysproporcji system nauczył się, że to osoby płci męskiej są preferowanymi kandydatami do pracy na stanowiskach inżynierów oprogramowania bądź menedżerów produktu. Dokumenty, w których znalazły się słowa częściej stosowane przez mężczyzn, uzyskiwały wyższą ocenę, a te wskazujące na płeć żeńską - pojawiające się np. w kontekście "żeńskiej szkoły średniej" - niższą.

Amazon wielokrotnie starał się poprawić działanie algorytmów. Jednak, że wprowadzane zmiany nie gwarantowały neutralności działania maszyn i nie chroniły przed wystąpieniem dyskryminacji innego rodzaju. Ostatecznie Amazon rozwiązał pracujący nad nimi zespół inżynierów na początku 2017 roku. Od tego czasu firma powołała w Edynburgu nowy zespół do prac nad podobnym projektem, tym razem z naciskiem na promowanie różnorodności wśród rekrutowanych pracowników.

Osoby znające szczegóły sprawy podkreśliły, że rekruterzy Amazona posiłkowali się w swojej pracy sugestiami dostarczanymi przez narzędzie, jednak nie polegali wyłącznie na działaniu sztucznej inteligencji. Obecnie okrojona wersja oryginalnego systemu wciąż jest wykorzystywana do prostych zadań w rodzaju odsiewania duplikatów zgłoszeń.

Zgodnie z ubiegłorocznym badaniem firmy CareerBuilder około 55 proc. menedżerów ds. rekrutacji z USA przewiduje, że sztuczna inteligencja i algorytmy w ciągu następnych pięciu lat staną się narzędziem codziennie wykorzystywanym w ich pracy.

Newsletter ICT
Nowości z firm IT z naciskiem na spółki giełdowe: przetargi, informacje z rynku, newsy kadrowe i inne.
ZAPISZ MNIE
×
Newsletter ICT
autor: Grzegorz Suteniec
Wysyłany raz w tygodniu
Grzegorz Suteniec
Nowości z firm IT z naciskiem na spółki giełdowe: przetargi, informacje z rynku, newsy kadrowe i inne.
ZAPISZ MNIE
Administratorem Pani/a danych osobowych będzie Bonnier Business (Polska) Sp. z o. o. (dalej: my). Adres: ul. Kijowska 1, 03-738 Warszawa. Administratorem Pani/a danych osobowych będzie Bonnier Business (Polska) Sp. z o. o. (dalej: my). Adres: ul. Kijowska 1, 03-738 Warszawa. Nasz telefon kontaktowy to: +48 22 333 99 99. Nasz adres e-mail to: rodo@bonnier.pl. W naszej spółce mamy powołanego Inspektora Ochrony Danych, adres korespondencyjny: ul. Ludwika Narbutta 22 lok. 23, 02-541 Warszawa, e-mail: iod@bonnier.pl. Będziemy przetwarzać Pani/a dane osobowe by wysyłać do Pani/a nasze newslettery. Podstawą prawną przetwarzania będzie wyrażona przez Panią/Pana zgoda oraz nasz „prawnie uzasadniony interes”, który mamy w tym by przedstawiać Pani/u, jako naszemu klientowi, inne nasze oferty. Jeśli to będzie konieczne byśmy mogli wykonywać nasze usługi, Pani/a dane osobowe będą mogły być przekazywane następującym grupom osób: 1) naszym pracownikom lub współpracownikom na podstawie odrębnego upoważnienia, 2) podmiotom, którym zlecimy wykonywanie czynności przetwarzania danych, 3) innym odbiorcom np. kurierom, spółkom z naszej grupy kapitałowej, urzędom skarbowym. Pani/a dane osobowe będą przetwarzane do czasu wycofania wyrażonej zgody. Ma Pani/Pan prawo do: 1) żądania dostępu do treści danych osobowych, 2) ich sprostowania, 3) usunięcia, 4) ograniczenia przetwarzania, 5) przenoszenia danych, 6) wniesienia sprzeciwu wobec przetwarzania oraz 7) cofnięcia zgody (w przypadku jej wcześniejszego wyrażenia) w dowolnym momencie, a także 8) wniesienia skargi do organu nadzorczego (Prezesa Urzędu Ochrony Danych Osobowych). Podanie danych osobowych warunkuje zapisanie się na newsletter. Jest dobrowolne, ale ich niepodanie wykluczy możliwość świadczenia usługi. Pani/Pana dane osobowe mogą być przetwarzane w sposób zautomatyzowany, w tym również w formie profilowania. Zautomatyzowane podejmowanie decyzji będzie się odbywało przy wykorzystaniu adekwatnych, statystycznych procedur. Celem takiego przetwarzania będzie wyłącznie optymalizacja kierowanej do Pani/Pana oferty naszych produktów lub usług.
© ℗
Rozpowszechnianie niniejszego artykułu możliwe jest tylko i wyłącznie zgodnie z postanowieniami „Regulaminu korzystania z artykułów prasowych” i po wcześniejszym uiszczeniu należności, zgodnie z cennikiem.

Podpis: PAP/DI

Polecane