Twitter запустила соревнование по поиску предубеждений модели машинного обучения. За первое место платят 3,5$ тыс.

Соцсеть Twitter запустила программу по поиску «предубеждений алгоритма» Algorithmic Bias Bounty Challenge. Так компания хочет снизить предвзятость своей модели машинного обучения к разным социальным группам.

По словам Twitter, это первое в мире соревнование по выявлению дискриминации людей со стороны машинного обучения.

Сейчас это особенно актуально: пользователи всё чаще подозревают алгоритмы в наличии расовых или других предубеждений.

Что надо делать

Задача участников — продемонстрировать, какой потенциальный вред может принести алгоритм «умного кадрирования». Конкурсанты получат доступ к коду модели.

Этот алгоритм распознаёт на картинке главный объект и кадрирует изображение так, чтобы этот объект остался не обрезанным.

Модель должна «непредвзято» находить главный объект. Каждое «предубеждение» — уязвимость.

Сколько заплатят

Команды-победители получат денежные призы через HackerOne:

• 1-е место — 3500$ (256 тысяч рублей);
• 2-е место — 1000$ (73 тысячи рублей);
• 3-е место — 500$ (36 тысяч рублей);
• за самую «инновационную» находку — 1000$ (73 тысячи рублей);
• за проблему, актуальную для большинства алгоритмов Twitter — 1000$ (73 тысячи рублей).

Когда результаты

Победителей объявят на семинаре DEF CON AI Village 8 августа. Победителям предложат представить свои работы на мероприятии.

Где принять участие

Программа запущена на HackerOne. Там же изложены все подробности.

Источник: Блог Twitter