Ученые создали алгоритм, позволяющий обмануть системы распознавания лиц

Исследователи из Университета Торонто Авишек Бозе (Avishek Bose) и Пархам Аараби (Parham Aarabi) создали систему, корректирующую пиксели на портретном фото таким образом, чтобы алгоритмы распознавания лиц давали сбой.

Идея создания

По словам Бозе, с помощью алгоритмов машинного обучения Amazon, Google, Facebook и другие корпорации узнают, как выглядят пользователи, куда они ездят, с кем проводят время, что любят покупать. Созданная канадцами система позволяет сохранять конфиденциальность и бороться с раскрытием персональных данных.

Тренировки

Для обучения исследователи использовали две нейросети. Первая распознавала лица на нескольких сотнях портретов, а вторая точечно ретушировала снимки. Скорректированные изображения повторно отправляли распознающей нейросети. Изменения, которые давали большее число ложных срабатываний, формировали ядро фильтра.

Успехи

Ученые отметили, что система сумела обмануть алгоритм Faster R-CNN, созданный Facebook. В будущем с ее помощью можно будет полностью исключить распознавание без согласия пользователя. В нынешнем варианте технология снижает вероятность идентификации человека по фотографии до 0,5 %.

Проект является частью магистерской работы Бозе. В августе 2018 года он представит алгоритм на симпозиуме MMSP 2018 в Ванкувере.

В 2018 году в московском метро начала работать система распознавания лиц, с помощью которой полиция задержала уже девять преступников. По словам Сергея Собянина, на программу потратили 3 миллиона рублей.