Ученые MIT обманули систему распознавания изображений Google

Ученые из лаборатории MIT LabSix, занимающиеся исследованием искусственного интеллекта, обманули систему распознавания изображений Google InceptionV3, заставив ее принять бейсбольный мяч за эспрессо, напечатанную на 3D-принтере черепаху за ружье, а кота — за гуакамоле.

Как у них это получилось?

Поначалу эксперимент может показаться странным, но его результаты показывают, что доверять ИИ распознавание объектов в реальных условиях может быть чревато. Например, камеры беспилотных автомобилей используют похожие технологии для распознавания пешеходов в движении и определения погодных условий. Окажись изображение стоп-сигнала размытым или искаженным, контролирующая транспорт программа могла бы его спутать, что привело бы к ужасным последствиям.

Результаты исследования, опубликованные ранее, показывают, что ИИ склонен неправильно распознавать предметы в реальном мире, если те слегка искажены, будь то сделано специально или нет.

Исследователи назвали такие искаженные предметы или образы, вроде черепахи, узоры панциря которой напоминают приклад ружья, «состязательными образцами».

Наша работа демонстрирует, что состязательные образцы — проблема куда более значимая в реальном мире, чем было принято считать.

С помощью напечатанной на 3D-принтере черепахи учёные провели несколько тестов. В первом эксперименте команда показывает программе обычную черепаху, и та распознает ее правильно. Затем исследователи незначительно меняют текстуру черепашьего панциря — почти неуловимо для человеческого глаза — но это заставляет машину распознать в черепахе ружьё.

Удивителен тот факт, что «искажённая» черепаха была неправильно распознана с большинства углов, даже когда ее перевернули.

Для создания такой продуманной до мелочей хитрости ученые MIT использовали собственную программу, специально разработанную для создания «состязательных» изображений. Это программа симулирует реальные ситуации вроде размытых или вращающихся объектов, с которыми, скорее всего, может столкнуться в реальном мире ИИ.

Учитывая кажущееся непрестанным развитие технологий ИИ и их применение в нашей жизни (машины, генерация изображений, самообучающиеся программы), попытки ученых обмануть их важны — так обнаруживаются их слабости.