Исследователи представили альтернативу традиционным нейронным сетям

Капсульные сети не отстают от обычных, а в некоторых опытах даже превосходят их. Их создатель уверен, что его технологии потребуется меньше данных для распознавания объектов в новых ситуациях.

За последние несколько лет искусственный интеллект стал пользоваться огромным спросом, в том числе благодаря развитию нейронных сетей. Именно благодаря им ИИ способен на такие впечатляющие трюки, как распознавание изображений. Однако растет обеспокоенность по поводу того, что некоторые из основных принципов, сделавших эти системы такими успешными, могут не справиться с серьезными проблемами, которые стоят перед ИИ. Возможно, самой большой из них является потребность в огромных количествах данных для обучения.

Похоже, что Джеффри Хинтон, исследователь Google, относится к тем, кто взволнован данной проблемой. Wired сообщает, что он представил новый подход к традиционным нейросетям, который он называет капсульными сетями. В нескольких статьях, опубликованных на arXlv и OpenReview, Хинтон и его коллеги объясняют принцип их работы.

Что за капсульные сети?

В этом подходе используются небольшие группы нейронов, которые называются капсулами. Капсулы, в свою очередь, составляют слои для идентификации объектов на видео или изображениях. Когда несколько капсул в одном слое принимают одинаковое решение, они активируют другую капсулу, находящуюся на более высоком уровне. Этот процесс продолжается до тех пор, пока сеть не сможет сделать вывод о том, что она видит. Каждая из этих капсул создана таким образом, что она обнаруживает в изображении определенный признак и распознает его в разных сценариях. Например, под разным углом.

Хинтон утверждает, что благодаря этому подходу его сетям потребуется меньше данных для распознавания объектов в новых ситуациях. В опубликованных отчетах видно, что капсульные сети не отстают от обычных, когда дело доходит до идентификации рукописных символов. Также они делают меньше ошибок при попытке распознать ранее увиденные игрушки под разными углами. Другими словами, Хинтон опубликовал результаты, потому что капсульные сети не менее точны, чем обычные — хотя пока они и медленнее.

Смогут ли такие системы стать альтернативой традиционным нейронным сетям, или они остановятся в развитии? Сейчас об этом судить сложно, но можно ожидать, что любители машинного обучения реализуют этот подход на практике и найдут ответ на этот вопрос. В любом случае, тех, кто обеспокоен ограничениями нынешних систем ИИ, может воодушевить тот факт, что исследователи ищут альтернативные пути глубокого обучения.

Источник: MIT Technology