Инженеры MIT представили «безумную» нейросеть

Группа ученых из Массачусетского технологического института (MIT) создала распознающую нейросеть, которая генерирует текстовое описание к изображению. Только натренировали они ее на картинках с подписями из сообщества Reddit, посвященного разговорам о смерти. Так специалисты хотели продемонстрировать важность данных, на которых обучают ИИ, а также их сбалансированность.

Ученые назвали нейросеть в честь персонажа Нормана Бейтса, убийцы с раздвоением личности из романа «Психо», который впоследствии экранизировал Альфред Хичкок.

Тестирование

Чтобы продемонстрировать влияние данных на результат, команда из MIT дала на распознавание картинки из теста Роршаха двум нейросетям. Первую обучали на обычных наборах с изображениями людей, кошек и птиц. Вторая — Norman.

Картинки, на которых стандартная нейросеть «видела» вазы с цветами, пару птиц или сидящих на скамейке людей, Norman определял как застреленного на глазах жены мужчину, а также человека, выпрыгнувшего из окна, сбитого машиной на высокой скорости или убитого разрядом электрического тока.

Результаты

По словам инженеров MIT, они создали нейросеть Norman, чтобы напомнить , что поведение нейросети — вина не ее алгоритмов, а данных, на которых она обучалась.

Данные значат больше, чем алгоритм <...> Это подчеркивает идею, что данные, на которых тренируют ИИ, отражают его поведение и восприятие мира.

Бывший исполнительный директор Microsoft Дейв Коплин (Dave Coplin) считает, что создание подобной нейросети — хороший повод начать публичное обсуждение проблем технологий искусственного интеллекта, на который и бизнес, и общество, начинает все больше полагаться.

Мы учим алгоритмы так же, как и людей, поэтому существует риск, что мы не всегда учим их правильно.

В марте 2018 года разработчики российской компании Gero представили нейросеть, прогнозирующую возраст, в котором человек умрет при текущем состоянии здоровья. Она делает вывод на основе данных фитнес-браслета, при этом учитывает биологический возраст и старение организма.