Команда Fast.ai разработала алгоритм машинного обучения, превосходящий по скорости аналог от Google

Разработчики из Fast.ai, которые организуют бесплатные онлайн-курсы по машинному обучению, создали алгоритм классификации изображений, который успешно определяет объект в 93 % случаев и справляется с этим быстрее аналогичного алгоритма Google при похожей конфигурации. Авторы утверждают, что «создание прорывных технологий — удел не только больших компаний».

Подробнее о эксперименте Fast.ai

При оценке производительности использовался тест DAWNBench, который рассчитывает скорость и стоимость обучения нейросети. В ходе эксперимента Fast.ai нейросеть запускалась на 16 виртуальных узлах AWS, каждый из которых содержал 8 видеокарт NVIDIA V100. Такая конфигурация достигла точности в 93 % за 18 минут, а стоимость машинного времени была оценена в 40 $. Результат Fast.ai быстрее разработки инженеров Google на 40 %, но в корпорации используют собственные кластеры TPU Pod, поэтому сравнение не является полностью объективным.

Разработчики использовали Python-библиотеку PyTorch, а также их собственную разработку — fastai. Они смогли достичь такой скорости обучения с помощью нового метода обрезки изображений из датасета ImageNet: вместо квадратных картинок они стали использовать прямоугольные:

Результат оказался удивительным — наш метод дал прирост в 23 % к скорости обучения! <...> Это настолько очевидная вещь, что большинство исследователей даже не задумывается о ней.

Авторы стремились сделать проект доступным каждому, поэтому они упростили его инфраструктуру, отказавшись от использования распределенных вычислительных систем и контейнеров. Для его реализации разработчики объединились с инженерами из инновационного подразделения Пентагона (DIU), чтобы затем выпустить ПО для быстрого создания и поддержки распределенных моделей на AWS. Подробнее о разработке можно прочитать в блоге компании.

Модели машинного обучения соревнуются не только между собой. В начале августа 2018 года был проведен матч по Dota 2 между профессиональными игроками и ИИ-агентами, в котором последние одержали победу.