Искусственный интеллект научился объяснять причины своих действий

Международная группа исследователей и команда Facebook AI Research обучили искусственный интеллект объяснять причины своих действий. Понимание принципов работы ИИ позволит людям лучше его контролировать и не допустить «восстания машин».

Искусственный интеллект и задачи для детей

Исследователи создали специальный тест, который рассчитан на уровень развития девятилетнего ребенка. Каждый этап испытания состоял из фотографии и вопроса с двумя вариантами ответа. ИИ должен был определить, что изображено на фото, и выделить объект, который доказывает правильность его выбора.

Тест для искусственного интеллекта

Например, утвердительно ответив на вопрос «Это зоопарк?», искусственный интеллект подсветил ограждение. Это значит, что ИИ сравнил два изображения на наличие ограды и понял: если животные находятся за ней, значит, это зоопарк. Возникли и ошибки: компьютер не смог определить эмоцию на лице человека и не нашел разницы между рисованием картины и уборкой комнаты.

Изучение принципов работы искусственного интеллекта помогает выявить свойства, которые в будущем могут стать причиной серьезных проблем. В 2017 году группа из Принстонского университета обнаружила, что ИИ склонен к предвзятому отношению к людям на основе их пола и расы.

Источник: The Next Web

Ещё интересное для вас:
Серверы для котиков: выберите лучшее решение для проекта и проверьте себя.
— Как расширить функциональность ПО на продакшене, ничего не сломав.
Сложный тест по C# — проверьте свои знания.