Amazon отказалась от нейросети, которая отдавала предпочтение резюме мужчин

Amazon отказалась от использования искусственного интеллекта для оценки резюме, поскольку высокие баллы получали в основном соискатели-мужчины. Компания пыталась решить проблему с 2015 года, однако сейчас прекратила работу над системой. Об этом пишет Reuters со ссылкой на анонимный источник в компании.

Разработка

Команда Эдинбургского инженерного центра Amazon разрабатывала ИИ, который мог бы быстро оценить опубликованные в Интернете резюме и найти подходящих сотрудников. Разработчики создали 500 компьютерных моделей для разных навыков и локаций соискателей, каждая из которых распознавала около 50 тысяч слов-сигналов в резюме.

Проблема в работе алгоритма

В 2015 году в Amazon заметили, что алгоритм обращал мало внимания на опыт и навыки потенциальных сотрудников. Вместо этого он отдавал предпочтение тем, кто употреблял свойственные «мужским» резюме глаголы, такие как «выполнил» (executed) или «захватил» (captured). Разработчики объяснили это тем, что алгоритм обучался на базе резюме всех сотрудников компании за последние десять лет. Мужчин в ней оказалось больше, поэтому ИИ решил, что кандидаты мужского пола предпочтительнее. Также ИИ часто рекомендовал неквалифицированный персонал.

Компания изменила алгоритм, однако существенных улучшений это не дало, и к началу 2017 года Amazon отказалась от использования системы. Хотя корпорация остановила разработку алгоритма, она использует часть наработок для решения базовых задач рекрутинга, например, для исключения дубликатов профилей кандидатов.

В июне 2018 года стало известно, что Amazon заменяет менеджеров по работе с брендами на программы. Это помогает корпорации экономить на сотрудниках с шестизначными зарплатами.