Украинский исследователь победил в соревновании Twitter по поиску предубеждений ИИ

В начале августа Twitter запустила Algorithmic Bias Bounty Challenge — соревнование по поиску предубеждений алгоритм «умного кадрирования». За первое место обещали награду в 3,5$ тысяч — это 257 тысяч рублей.

На днях Twitter объявила победителя соревнования. Им оказался украинец Богдан  Кулинич, который сейчас работает исследователем в швейцарской Политехнической школе Лозанне. 

До Швейцарии Богда Кулинич закончил украинскую Киево-могилянскую академию, а затем стажировался в Google. 

Украинский исследователь обнаружил, что алгоритм smart crop предпочитает не только людей с более светлой кожей людям с тёмным оттенком. Оказалось, что ИИ предпочитает более молодые лица с гладкой кожей и тёплым тоном.

Алгоритм предпочитает типовые качества и может совсем исключить из рассмотрения обладателей нестандартной внешности. Например, ИИ больше по нраву более женственные девушки. 

Кулинич выяснил это благодаря сравнению «значимости» для алгоритма smart crop оригинальной фотографии человеческого лица и наборов её же вариацией с немного изменёнными чертами, который создал искусственный интеллект. 

Источник: CNet