Виммельбух, 4, перетяжка
Виммельбух, 4, перетяжка
Виммельбух, 4, перетяжка

Искусственный интеллект научился объяснять причины своих действий

Новости

Исследователи из разных стран научили искусственный интеллект объяснять принцип своей работы. Новые знания помогут укрепить доверие между людьми и машинным разумом.

6К открытий6К показов

Международная группа исследователей и команда Facebook AI Research обучили искусственный интеллект объяснять причины своих действий. Понимание принципов работы ИИ позволит людям лучше его контролировать и не допустить «восстания машин».

Искусственный интеллект и задачи для детей

Исследователи создали специальный тест, который рассчитан на уровень развития девятилетнего ребенка. Каждый этап испытания состоял из фотографии и вопроса с двумя вариантами ответа. ИИ должен был определить, что изображено на фото, и выделить объект, который доказывает правильность его выбора.

Искусственный интеллект научился объяснять причины своих действий 1

Например, утвердительно ответив на вопрос «Это зоопарк?», искусственный интеллект подсветил ограждение. Это значит, что ИИ сравнил два изображения на наличие ограды и понял: если животные находятся за ней, значит, это зоопарк. Возникли и ошибки: компьютер не смог определить эмоцию на лице человека и не нашел разницы между рисованием картины и уборкой комнаты.

Изучение принципов работы искусственного интеллекта помогает выявить свойства, которые в будущем могут стать причиной серьезных проблем. В 2017 году группа из Принстонского университета обнаружила, что ИИ склонен к предвзятому отношению к людям на основе их пола и расы.

Следите за новыми постами
Следите за новыми постами по любимым темам
6К открытий6К показов