Игра Яндекс Практикума
Игра Яндекс Практикума
Игра Яндекс Практикума

Microsoft открыла исходный код движка для ML-моделей ONNX Runtime

Новости

ONNX Runtime — это высокопроизводительный движок для моделей машинного обучения в формате ONNX (Open Neural Network Exchange).

1К открытий2К показов
Microsoft открыла исходный код движка для ML-моделей ONNX Runtime

Microsoft сообщила о размещении исходного кода ONNX Runtime на GitHub. Проект является высокопроизводительным движком для моделей машинного обучения в формате ONNX (Open Neural Network Exchange), обеспечивающем совместимость ML-моделей со свободными ИИ-фреймворками (TensorFlow, Cognitive Toolkit, Caffe2, MXNet). Поэтому ONNX Runtime используют для оптимизации вычислений в моделях глубокого обучения нейронных сетей.

С переводом проекта в open source компания надеется привлечь больше людей к развитию машинного обучения. Более того, Microsoft пообещала быстро реагировать на коммиты.

Применение ONNX Runtime

Для применения ONNX Runtime необходимо определить ONNX-модель и подобрать для неё инструмент. Их список и инструкции размещены на странице GitHub. Microsoft предлагает несколько вариантов для тех, кто не знает, с чего начать:

Поддержка ONNX Runtime

По словам представителя Microsoft Эрика Бойда (Eric Boyd), команды сервисов Bing Search, Bing Ads и Office смогли достичь вдвое большей производительности ML-моделей при использовании ONNX Runtime по сравнению со стандартными решениями. Поэтому важна поддержка проекта как пользователями, так и крупными компаниями. Что касается последних, то пока они воплощают следующие проекты:

  • Microsoft и Intel внедряют компилятор nGraph;
  • NVIDIA работает над интеграцией TensorRT;
  • Qualcomm рассчитывает на развитие мобильной платформы Snapdragon.

В начале декабря 2017 года ONNX перевели из стадии раннего доступа в проект, соответствующий условиям промышленной эксплуатации. Компании призвали сообщество присоединиться к проекту и помочь в создании единой платформы взаимодействия с инструментами глубокого обучения.

Следите за новыми постами
Следите за новыми постами по любимым темам
1К открытий2К показов