Сбер вакансии Backend
Сбер вакансии Backend
Сбер вакансии Backend
Написать пост

Новый инструмент от Google для распознавания и поиска объектов на видео можно легко обмануть

Новости Отредактировано

3К открытий3К показов

Google недавно выпустила Cloud Video Intelligence API — интерфейс, помогающий разрабатывать приложения, которые способны распознавать и искать нужные объекты в пределах видеоряда. Сейчас любой может протестировать API на официальном демонстрационном сайте — инструмент быстро выделяет ключевые составляющие видео, распознает смену кадров и расставляет теги.

Новый инструмент от Google для распознавания и поиска объектов на видео можно легко обмануть 1

На картинке выше инструмент верно определил теги: «животное», «дикая природа», «зоопарк», «туризм» и т.д. Всё бы хорошо, но исследователи из Network Security Lab доказали, что Video Intelligence довольно просто обмануть.

В демонстрационное видео они вставили изображение автомобиля Audi таким образом, чтобы оно появлялось каждые две секунды. Изменение не слишком заметно невооружённым глазом, так как картинка добавляется через каждые 50 кадров при частоте смены кадров, равной 25. Зато теперь API думает, что видео не про животных, а про машины.

Новый инструмент от Google для распознавания и поиска объектов на видео можно легко обмануть 2

Авторы исследования замечают:

Подобная уязвимость инструмента распознавания ставит под сомнение возможность его использования в реальных приложениях. Важно разрабатывать системы, которые работают одинаково хорошо в различных условиях.

Видимо, в ближайшее время API останется на этапе демонстрации и будет подвергнут тщательному тестированию.

Следите за новыми постами
Следите за новыми постами по любимым темам
3К открытий3К показов