Инженеры MIT представили «безумную» нейросеть
Новости
Ученые MIT натренировали ИИ на картинках с подписями из сообщества Reddit, посвященного разговорам о смерти, и назвали его в честь персонажа из «Психо».
3К открытий3К показов
Группа ученых из Массачусетского технологического института (MIT) создала распознающую нейросеть, которая генерирует текстовое описание к изображению. Только натренировали они ее на картинках с подписями из сообщества Reddit, посвященного разговорам о смерти. Так специалисты хотели продемонстрировать важность данных, на которых обучают ИИ, а также их сбалансированность.
Ученые назвали нейросеть в честь персонажа Нормана Бейтса, убийцы с раздвоением личности из романа «Психо», который впоследствии экранизировал Альфред Хичкок.
Тестирование
Чтобы продемонстрировать влияние данных на результат, команда из MIT дала на распознавание картинки из теста Роршаха двум нейросетям. Первую обучали на обычных наборах с изображениями людей, кошек и птиц. Вторая — Norman.
Картинки, на которых стандартная нейросеть «видела» вазы с цветами, пару птиц или сидящих на скамейке людей, Norman определял как застреленного на глазах жены мужчину, а также человека, выпрыгнувшего из окна, сбитого машиной на высокой скорости или убитого разрядом электрического тока.
Результаты
По словам инженеров MIT, они создали нейросеть Norman, чтобы напомнить , что поведение нейросети — вина не ее алгоритмов, а данных, на которых она обучалась.
Данные значат больше, чем алгоритм <...> Это подчеркивает идею, что данные, на которых тренируют ИИ, отражают его поведение и восприятие мира.
Бывший исполнительный директор Microsoft Дейв Коплин (Dave Coplin) считает, что создание подобной нейросети — хороший повод начать публичное обсуждение проблем технологий искусственного интеллекта, на который и бизнес, и общество, начинает все больше полагаться.
Мы учим алгоритмы так же, как и людей, поэтому существует риск, что мы не всегда учим их правильно.
В марте 2018 года разработчики российской компании Gero представили нейросеть, прогнозирующую возраст, в котором человек умрет при текущем состоянии здоровья. Она делает вывод на основе данных фитнес-браслета, при этом учитывает биологический возраст и старение организма.
3К открытий3К показов
GitHub Copilot обвинили в невозможности ограничить передачу конфиденциальных данных в облако, создавая угрозу безопасности пользователей
В утекшей записи глава AWS Мэтт Гарман заявил, что в ближайшие два года 75% разработчиков могут перестать программировать благодаря ИИ. Гарман подчеркнул, что ИИ не заменит разработчиков, а изменит их роль, позволяя сосредоточиться на инновациях и стратегическом планировании.
Если бы у вас была машина времени и можно было вернуться в прошлое, чтобы дать совет двадцатилетнему себе, о чем бы сказали? Что бы посоветовали не упустить на старте карьеры? Мы решили не дожидаться изобретения путешествий во времени и в рамках Восточного экономического форума провели сессию «Знать бы в 20».
Stack Overflow навсегда запретил публикацию контента, созданного с помощью ИИ, из-за частых ошибок в таких ответах. Решение принято после того, как платформа столкнулась с массовым потоком низкокачественного контента, который затруднял поиск достоверных ответов