Министерство обороны США и AI2 начали разработку ИИ со «здравым смыслом»

Управление перспективных исследовательских проектов Министерства обороны США (DARPA) совместно с Институтом искусственного интеллекта Пола Аллена (Allen Institute for Artificial Intelligence, AI2) планируют научить ИИ здравому смыслу. Речь идёт о проекте Machine Common Sense, который направлен на решение двух основных задач: понимание, что означает «здравый смысл» ИИ, а также обучение машины этому интуитивному качеству.

Что известно?

Дэйв Ганнинг (Dave Gunning) из DARPA заявил, что отсутствие здравого смысла не позволяет искусственному интеллекту понимать мир, учиться и действовать в незнакомых ситуациях, исходя из опыта. Это является крупнейшей проблемой ИИ.

Простые вещи, интуитивно понятные человеку с младенчества, очень сложны для ИИ. Люди не просто оперируют набором фактов, но строят связи между объектами, исходя из предыдущего опыта. Для современных алгоритмов, у которых нет интуиции, ситуации нужно описывать полностью, «накачивая» искусственный интеллект набором данных.

В DARPA предложили использовать вычислительные модели, которые учатся на собственном опыте и имитируют психологию развития человека, чтобы научить машину ориентироваться в реальном мире и сформировать собственный опыт.

Как это работает?

Глава AI2 Орен Этциони (Oren Etzioni) рассказал, что главной проблемой описания эмпирических аспектов, вроде здравого смысла, является невозможность их измерения. Поэтому в качестве модели обучения взят набор ситуаций с несколькими вариантами развития. В процессе обучения машина должна отвечать и учиться, отсеивая неправильные с точки зрения здравого смысла решения.

Например, даны фраза «Женщина сидит за пианино» и четыре варианта ответа:

• Она сидит на скамейке и смотрит, как её сестра играет с куклой.
• Она улыбается кому-то, слушая музыку.
• Она наблюдает за танцорами.
• Она кладёт пальцы на клавиши.

Для человека очевиден правильный ответ — последний. Но лучшие ИИ правильно отвечают только в 60 % случаев. Цель в данном случае — обучить машину и сформировать опыт, по которому система будет распознавать ситуации. В первом наборе уже есть 113 тысяч вопросов. До конца года появится ещё минимум четыре.

DARPA получила 2 млрд. $ на эти исследования. При этом в организации не хотят конкурировать с коммерческими компаниями.

Однако это не единственная подобная разработка. Весной 2018 года DARPA совместно с разработчиками Siri из SRI International начали проект по созданию ИИ, который имитирует человеческую память. Для этого нейросеть должна сама выставлять приоритеты тем или иным данным, запоминая или забывая их.