NVIDIA обновила SDK для машинного обучения и запустила облачный сервис GPU Cloud для ускорения глубинного обучения

GPU Cloud

На конференции GTC 2017 NVIDIA объявила о запуске новых инструментов для разработчиков, чтобы помочь им справиться с растущей сложностью глубинного обучения. Это, в частности, крупное обновление для NVIDIA SDK, который включает в себя библиотеки и инструменты для создания приложений с поддержкой ИИ.

Что входит в NVIDIA SDK?

Опираясь на запросы разработчиков, NVIDIA раработала инструменты, библиотеки и улучшения модели CUDA, чтобы упростить создание приложений с искусственным интеллектом и высокопроизводительными вычислениями.

GPU Cloud

Уровень интереса к вычислениям на GPU растет, чему способствуют достижения в области ИИ.

Последние обновления Deep Learning SDK предоставляют новые возможности и оптимизацию производительности для приложений, использующих графические ускорители:

  • CUDA 9 теперь поддерживает графические процессоры Volta, повышает производительность библиотек до 5 раз, а также предоставляет новую модель для управления потоками и обновления отладочных инструментов.
  • TensorRT 3 ускоряет машинное обучение в 3.5 раза благодаря встроенной поддержке оптимизации моделей Caffe и TensorFlow.
  • CuDNN 7 обеспечивает в 2,5 раза более быстрое обучение нейронной сети ResNet50 от Microsoft на платформе Caffe2.
  • NCCL 2 предоставляет возможность масштабирования машинного обучения до восьми серверов с графическим ускорением. Благодаря этому время обучения нейронной сети сокращается с нескольких дней до нескольких часов.
  • Оптимизация процессоров Volta для таких фреймворков, как Caffe2, Microsoft Cognitive Toolkit, MXNet, PyTorch и TensorFlow, ускоряет их работу до 2,5 раз.

Чтобы узнать об изменениях больше, советуем посмотреть выступление генерального директора NVIDIA Хуана Женьсюня:

А что за GPU Cloud?

Компания также анонсировала запуск NVIDIA GPU Cloud (NGC), облачную платформу с графическим ускорением, оптимизированную для глубинного обучения. Платформа предназначена для разработчиков приложений с глубинным обучением, которые не хотят вручную настраивать новейшее программное и аппаратное обеспечение.

Это решение поставляется с NGC Deep Learning Stack — средой разработки, которая будет работать на ПК, суперкомпьютерах DGX и в облаке. Стек программ полностью управляется NVIDIA, поэтому разработчики могут использовать один видеоускоритель на своём ПК и дополнительные облачные ресурсы.

NGC предлагает следующие преимущества:

  • Оптимизация и интеграция: программный стек NGC будет предоставлять широкий спектр программного обеспечения, в том числе: Caffe, Caffe2, CNTK, MXNet, TensorFlow, Theano и Torch, а также обучающие системы NVIDIA DIGITS, NVIDIA Deep Learning SDK, nvidia-docker, для быстрого проектирования глубоких нейронных сетей.
  • Универсальность: она создана для работы в любом месте. Пользователи могут начать с одного графического процессора на ПК и добавить дополнительные вычислительные ресурсы с помощью DGX-системы или через облако. Они могут импортировать данные, настраивать конфигурацию задания, выбирать фреймворк. Затем результат можно загрузить в TensorRT для вывода.
  • С помощью NGC разработчики могут создавать модели любого размера или типа, используя универсальную платформу, а также увеличивать или уменьшать объём используемых вычислительных ресурсов в зависимости от того, что им нужно.

Источник: блог NVIDIA