Разработчики FaceApp, приложения, которое использует нейронную сеть для редактирования селфи, извинились за то, что создали расистский алгоритм.
Так, и в чём проблема?
Данное приложение предлагает пользователю загрузить фотографию и изменить внешность изображённого на ней человека. И один из фильтров этой программы, под названием «Привлекательность» оказался расистским. Как заметили пользователи, чтобы создать эффект «привлекательности», фильтр осветлял тон кожи.
#faceapp isn't' just bad it's also racist…🔥 filter=bleach my skin and make my nose your opinion of European. No thanks #uninstalled pic.twitter.com/DM6fMgUhr5
— Terrance AB Johnson (@tweeterrance) April 19, 2017
Основатель и CEO FaceApp Ярослав Гончаров принес свои извинения и заверил, что этот побочный эффект вызван отклонением обучающей выборки нейронной сети. Чтобы смягчить проблему, разработчики переименовали данный фильтр, сделав название более нейтральным, хотя было бы уместнее убрать его и выпустить снова после исправления. Возможно, в принятии такого решения определенную роль сыграла «вирусная» популярность приложения (каждый день добавляется приблизительно 700 тысяч новых пользователей).
Было бы трудно найти лучший наглядный пример рисков отклонения в алгоритмах. Модель машинного обучения хороша только тогда, когда ей дают хорошие начальные данные. В случае с FaceApp команда разработчиков, которая находится в Москве, просто использовала недостаточно разнообразный набор данных. Но мы хотя бы можем поблагодарить их за столь яркую иллюстрацию скрытой проблемы алгоритмического смещения.
Источник: TechCrunch
