Новый инструмент от Google для распознавания и поиска объектов на видео можно легко обмануть
Google недавно выпустила Cloud Video Intelligence API — интерфейс, помогающий разрабатывать приложения, которые способны распознавать и искать нужные объекты в пределах видеоряда. Сейчас любой может протестировать API на официальном демонстрационном сайте — инструмент быстро выделяет ключевые составляющие видео, распознает смену кадров и расставляет теги.
На картинке выше инструмент верно определил теги: «животное», «дикая природа», «зоопарк», «туризм» и т.д. Всё бы хорошо, но исследователи из Network Security Lab доказали, что Video Intelligence довольно просто обмануть.
В демонстрационное видео они вставили изображение автомобиля Audi таким образом, чтобы оно появлялось каждые две секунды. Изменение не слишком заметно невооружённым глазом, так как картинка добавляется через каждые 50 кадров при частоте смены кадров, равной 25. Зато теперь API думает, что видео не про животных, а про машины.
Авторы исследования замечают:
Подобная уязвимость инструмента распознавания ставит под сомнение возможность его использования в реальных приложениях. Важно разрабатывать системы, которые работают одинаково хорошо в различных условиях.
Видимо, в ближайшее время API останется на этапе демонстрации и будет подвергнут тщательному тестированию.
3К открытий3К показов
Google добавила в Chrome огромное количество улучшений, так или иначе завязанных на «прокачке» безопасности браузера. На всех платформах
Рассказываем, как правильно подобрать данные для машинного обучения, какие данные подойдут и как использовать данные клиентов для ML.
In this article, we will look into the world of cloud technologies, such as cloud computing and serverless programming.
Написал библиотеку на Python , которая позволяет создавать и запускать приложения с любой моделью машинного обучения.