Ученые обманули систему распознавания изображений, изменив цвета на фотографии

Исследователи из Вашингтонского университета нашли еще один способ обмануть системы распознавания объектов. Изменение параметров оттенков и насыщенности приводит к снижению точности предсказания на 90 %.

Птицепес и грузовик-лягушка

Важно, что изображение никоим образом не теряет в качестве, не становится темнее или светлее, более мутным или контрастным. Меняется только цвет. И там, где человек видит странно окрашенные, но узнаваемые предметы, нейросеть выдает случайную догадку: розовая птичка становится «собакой», зеленый грузовик — «лягушкой»:

Этот метод ученые проверили на нескольких нейросетях и описали в статье.

Выход из ситуации простой: натренировать распознающие модели на наборах с «окрашенными» изображениями. Однако, по словам ученых, несмотря на все преимущества нейросетей, они вряд ли умеют обобщать.

А это значит, что даже если обучить модели распознавать трюк с окраской, люди придумают что-нибудь еще, чтобы обвести их вокруг пальца: добавят новые шумы, посторонние объекты или невидимые глазу искажения.