Искусственный интеллект научился объяснять причины своих действий

Международная группа исследователей и команда Facebook AI Research обучили искусственный интеллект объяснять причины своих действий. Понимание принципов работы ИИ позволит людям лучше его контролировать и не допустить «восстания машин».

Искусственный интеллект и задачи для детей

Исследователи создали специальный тест, который рассчитан на уровень развития девятилетнего ребенка. Каждый этап испытания состоял из фотографии и вопроса с двумя вариантами ответа. ИИ должен был определить, что изображено на фото, и выделить объект, который доказывает правильность его выбора.

Например, утвердительно ответив на вопрос «Это зоопарк?», искусственный интеллект подсветил ограждение. Это значит, что ИИ сравнил два изображения на наличие ограды и понял: если животные находятся за ней, значит, это зоопарк. Возникли и ошибки: компьютер не смог определить эмоцию на лице человека и не нашел разницы между рисованием картины и уборкой комнаты.

Изучение принципов работы искусственного интеллекта помогает выявить свойства, которые в будущем могут стать причиной серьезных проблем. В 2017 году группа из Принстонского университета обнаружила, что ИИ склонен к предвзятому отношению к людям на основе их пола и расы.