Microsoft открыла исходный код движка для ML-моделей ONNX Runtime

Microsoft сообщила о размещении исходного кода ONNX Runtime на GitHub. Проект является высокопроизводительным движком для моделей машинного обучения в формате ONNX (Open Neural Network Exchange), обеспечивающем совместимость ML-моделей со свободными ИИ-фреймворками (TensorFlow, Cognitive Toolkit, Caffe2, MXNet). Поэтому ONNX Runtime используют для оптимизации вычислений в моделях глубокого обучения нейронных сетей.

С переводом проекта в open source компания надеется привлечь больше людей к развитию машинного обучения. Более того, Microsoft пообещала быстро реагировать на коммиты.

Применение ONNX Runtime

Для применения ONNX Runtime необходимо определить ONNX-модель и подобрать для неё инструмент. Их список и инструкции размещены на странице GitHub. Microsoft предлагает несколько вариантов для тех, кто не знает, с чего начать:

• скачать готовые модели ResNet или TinyYOLO из ONNX Model Zoo;
• создать собственные модели компьютерного зрения при помощи пользовательской службы визуального распознавания Azure;
• сконвертировать с помощью ONNXMLTools и TF2ONNX модели, созданные в TensorFlow, Keras, Scikit-Learn или CoreML;
• натренировать новые модели с использованием машинного обучения Azure и сохранить результат в формате ONNX.

Поддержка ONNX Runtime

По словам представителя Microsoft Эрика Бойда (Eric Boyd), команды сервисов Bing Search, Bing Ads и Office смогли достичь вдвое большей производительности ML-моделей при использовании ONNX Runtime по сравнению со стандартными решениями. Поэтому важна поддержка проекта как пользователями, так и крупными компаниями. Что касается последних, то пока они воплощают следующие проекты:

• Microsoft и Intel внедряют компилятор nGraph;
• NVIDIA работает над интеграцией TensorRT;
• Qualcomm рассчитывает на развитие мобильной платформы Snapdragon.

В начале декабря 2017 года ONNX перевели из стадии раннего доступа в проект, соответствующий условиям промышленной эксплуатации. Компании призвали сообщество присоединиться к проекту и помочь в создании единой платформы взаимодействия с инструментами глубокого обучения.