Министерство обороны США и AI2 начали разработку ИИ со «здравым смыслом»
Разработчики из DARPA и Института Аллена хотят обучить ИИ понятию здравого смысла и его применению в незнакомых условиях.
Управление перспективных исследовательских проектов Министерства обороны США (DARPA) совместно с Институтом искусственного интеллекта Пола Аллена (Allen Institute for Artificial Intelligence, AI2) планируют научить ИИ здравому смыслу. Речь идёт о проекте Machine Common Sense, который направлен на решение двух основных задач: понимание, что означает «здравый смысл» ИИ, а также обучение машины этому интуитивному качеству.
Что известно?
Дэйв Ганнинг (Dave Gunning) из DARPA заявил, что отсутствие здравого смысла не позволяет искусственному интеллекту понимать мир, учиться и действовать в незнакомых ситуациях, исходя из опыта. Это является крупнейшей проблемой ИИ.
Простые вещи, интуитивно понятные человеку с младенчества, очень сложны для ИИ. Люди не просто оперируют набором фактов, но строят связи между объектами, исходя из предыдущего опыта. Для современных алгоритмов, у которых нет интуиции, ситуации нужно описывать полностью, «накачивая» искусственный интеллект набором данных.
В DARPA предложили использовать вычислительные модели, которые учатся на собственном опыте и имитируют психологию развития человека, чтобы научить машину ориентироваться в реальном мире и сформировать собственный опыт.
Как это работает?
Глава AI2 Орен Этциони (Oren Etzioni) рассказал, что главной проблемой описания эмпирических аспектов, вроде здравого смысла, является невозможность их измерения. Поэтому в качестве модели обучения взят набор ситуаций с несколькими вариантами развития. В процессе обучения машина должна отвечать и учиться, отсеивая неправильные с точки зрения здравого смысла решения.
Например, даны фраза «Женщина сидит за пианино» и четыре варианта ответа:
- Она сидит на скамейке и смотрит, как её сестра играет с куклой.
- Она улыбается кому-то, слушая музыку.
- Она наблюдает за танцорами.
- Она кладёт пальцы на клавиши.
Для человека очевиден правильный ответ — последний. Но лучшие ИИ правильно отвечают только в 60 % случаев. Цель в данном случае — обучить машину и сформировать опыт, по которому система будет распознавать ситуации. В первом наборе уже есть 113 тысяч вопросов. До конца года появится ещё минимум четыре.
DARPA получила 2 млрд. $ на эти исследования. При этом в организации не хотят конкурировать с коммерческими компаниями.
Однако это не единственная подобная разработка. Весной 2018 года DARPA совместно с разработчиками Siri из SRI International начали проект по созданию ИИ, который имитирует человеческую память. Для этого нейросеть должна сама выставлять приоритеты тем или иным данным, запоминая или забывая их.