Инструмент Oracle GraphPipe для обслуживания ИИ-моделей стал open source проектом

Oracle открыла исходный код инструмента GraphPipe для упрощения обслуживания моделей машинного обучения. Он поддерживает проекты, созданные на основе библиотек TensorFlow, MXNet, Caffe2 и PyTorch. Они предназначены для использования в IoT-устройствах, пользовательских веб-сервисах и корпоративных ИИ-платформах.

Упрощение обслуживания ИИ

Инструмент избавляет разработчиков от необходимости создавать пользовательские API. Также он устраняет путаницу при использовании нескольких фреймворков и предотвращает копирование памяти при десериализации. Разработчики надеются, что GraphPipe станет стандартным инструментом для развертывания моделей.

GraphPipe — это попытка стандартизировать протокол, по которому вы взаимодействуете с дистанционно развернутой моделью машинного обучения. Он включает в себя ссылочные серверы, позволяющие легко развернуть модели из существующих фреймворков.

GraphPipe бесплатен и доступен на GitHub. В его состав входят инструменты с открытым исходным кодом, предназначенные для работы с искусственным интеллектом. Например, среди них есть фреймворк TensorFlow и проект Open Neural Network Exchange (ONNX) для создания переносных нейросетей.

В сентябре 2017 года Microsoft представила собственный инструментарий для работы с машинным обучением. Заодно компания выпустила утилиты для использования Visual Studio Code при создании моделей на базе фреймворков CNTK и Keras.