Ученые обманули систему распознавания изображений, изменив цвета на фотографии

Систему распознавания обманули изменением цветов на фотографии

Исследователи из Вашингтонского университета нашли еще один способ обмануть системы распознавания объектов. Изменение параметров оттенков и насыщенности приводит к снижению точности предсказания на 90 %.

Птицепес и грузовик-лягушка

Важно, что изображение никоим образом не теряет в качестве, не становится темнее или светлее, более мутным или контрастным. Меняется только цвет. И там, где человек видит странно окрашенные, но узнаваемые предметы, нейросеть выдает случайную догадку: розовая птичка становится «собакой», зеленый грузовик — «лягушкой»:

Обманутая нейросеть

Этот метод ученые проверили на нескольких нейросетях и описали в статье.

Выход из ситуации простой: натренировать распознающие модели на наборах с «окрашенными» изображениями. Однако, по словам ученых, несмотря на все преимущества нейросетей, они вряд ли умеют обобщать.

А это значит, что даже если обучить модели распознавать трюк с окраской, люди придумают что-нибудь еще, чтобы обвести их вокруг пальца: добавят новые шумы, посторонние объекты или невидимые глазу искажения.

Источник: TechCrunch

Ещё интересное для вас:
Тест: чьё это рабочее место? Угадываем айтишников по их столам
Тест: что вы знаете о работе мозга?
Тест: какой язык программирования вам стоит выбрать для изучения?