Питання дискримінації: в Amazon відмовилися від технології ШІ через гендерні аспекти

Питання дискримінації: в Amazon відмовилися від технології ШІ через гендерні аспекти

Працівники компанії виявили, що HR-алгоритм на основі штучного інтелекту необґрунтовано надає перевагу кандидатам чоловічої статі/

Сьогодні ШІ — це ефективний і вже майже звичний помічник великого бізнесу у сфері управління персоналом. У CareerBuilder, одному з топових сайтів з пошуку роботи у США, порахували, що вже за п’ять років близько 55% менеджменту з підбору кадрів здійснюватиметься за допомогою ШІ. Великі корпорації одними з перших почали використовувати потужність штучного інтелекту для того, щоб заощадити час та зусилля працівників HR-департаментів. Однак на шляху інновацій трапляються неприємні несподіванки — як свідчить досвід компанії Amazon.

За даними агентства Reuters, у 2014 році Amazon – світовий гігант з онлайн-продажів, зібрав команду найкращих розробників програмного забезпечення у Шотландії. В них було завдання створити простий та ефективний алгоритм для пошуку та відбору кращих кандидатів на вакантні позиції в Amazon. 

У компанії Amazon хотіли отримати інструмент, який обере п’ять найкращих резюме з безлічі запропонованих варіантів, і таким чином підвищить продуктивність рекрутингу. Для цього програмісти розробили близько 500 комп’ютерних моделей, навчених шукати резюме у відкритих онлайн-базах та обирати найкращих кандидатів на основі 50 000 термінів з резюме колишніх шукачів роботи в Amazon. Алгоритм на основі ШІ оцінював кандидатів по шкалі від одного до п’яти балів. Розробники використали той же самий принцип, за яким користувачі Amazon оцінюють якість продукту – ставлять від однієї до п’яти зірочок.

На впровадження ШІ-ініціативи у компанії покладалися великі надії. Однак, у 2015 розробники виявили, що новостворена система у більшості випадків надає перевагу резюме професіоналів-чоловіків. Дискримінаційний баг у програмі пояснили тим, що вона розроблена на основі резюме всіх працівників Amazon, серед яких чоловіків було значно більше, ніж жінок. Застосувавши аналітику цих даних, алгоритм прийшов до висновку, що фахівці-чоловіки є кращими кандидатами для роботи у компанії. 

Команда Amazon відредагувала алгоритм, однак виникли побоювання, що у майбутньому система може дискримінувати кандидатів за іншими параметрами. Експеримент з автоматизації підбору кадрів виявився невдалим. Від алгоритму відмовилися, оскільки ШІ дискримінував жінок-пошукачів.