Диалоговые платформы и open-source фреймворки для разработки ИИ-ботов: в чем разница и что выбрать

Голосовые роботы с чит-чатом, или функцией «болталки», свободно поддерживающие разговор с клиентом, умные чат-боты с продвинутой логикой, виртуальные операторы с искусственным интеллектом (ИИ) создаются как правило на базе диалоговых платформ и open-source фреймворков. Разбираемся, в чем сходство и различие инструментов и что выбрать для своего проекта.

Андрей Грабарник

Менеджер продукта Just AI

Общее платформ и фреймворков

Для начала определимся с терминами.

Диалоговые платформы — это стек технологий для прототипирования, разработки, тестирования, развертывания, контроля качества и последующей поддержки всего жизненного цикла разговорного ИИ-решения.

Фреймворки — это набор инструментов с открытым исходным кодом и высокой степенью контроля над разработкой, все составляющие фреймворка связаны общей идеологией.

Платформы и фреймворки относятся к самым сложным способам разработки в сфере разговорного ИИ. Чтобы работать с ними, нужны сильные навыки программирования. Оба инструмента позволяют обходить нетипичные ситуации и выводить логику работы бота на более сложный уровень. И платформы, и фреймворки доступны для разных языков программирования.

В чем различия

Платформы предлагают готовые компоненты, которые сокращают срок разработки. При этом модульность инструмента позволяет подключать внешние сервисы по API и тем самым улучшать работу бота.

Среди сервисов могут быть собственное NLU-ядро компании (Natural Language Understanding, понимание естественного языка), телефония, ASR (Automatic Speech Recognition, автоматическое распознавание речи) и TTS (Text-to-Speech, синтез речи), CRM- и BI-системы, текстовые каналы.

Фреймворки не ограничиваются конкретной архитектурой и поэтому не всегда предлагают готовые модули интеграции с текстовыми и телефонными каналами. Если нужного канала нет, его придется создать с нуля или обратиться к платформе.

Например, если код бота написан на базе фреймворка JAICF, проект можно опубликовать в платформе JAICP, где есть необходимые интеграции.

https://help.jaicf.com/

Таким образом, разработка на фреймворке всегда сложнее и занимает больше времени. Выбирать этот инструмент имеет смысл, если у компании есть собственные сервисы, аналогичные компонентам платформы.

Фреймворки оставляют разработчику больше свободы действий, так как единственное ограничение — сам язык программирования. Это позволяет гибко оперировать классами и форматами ввода и вывода данных, изменять код под цели проекта и кастомизировать ответы автоматически, в зависимости от класса.

Фреймворки бесплатны для коммерческого использования, так как они имеют открытый исходный код, диалоговые платформы — нет. Если в базовой версии фреймворка нет нужных функций, интеграций или каналов, их можно добавить за отдельную плату или разработать с нуля.

Еще одно различие связано с развертыванием готового проекта. Бота на базе фреймворка необходимо самостоятельно разместить в среде выполнения, например, на собственных серверах в облаке или контуре. Платформа предлагает готовые решения по хостингу, масштабированию и балансировке. То же самое относится к NLU. Если бот по проекту понимает естественный язык, NLU-модель требуется развернуть в среде выполнения и, соответственно, масштабировать и балансировать нагрузку.

Проекты на базе платформ и фреймворков

На базе фреймворка можно сделать бота любого уровня. С помощью платформ можно создавать ботов техподдержки, голосовых ассистентов с разветвленной логикой и чит-чатом, ИИ-операторов для входящей и исходящей телефонии. Многие считают платформы оптимальным инструментом для разработки умного IVR (Interactive Voice Response, интерактивное голосовое меню) и ботов для телефонных обзвонов, так как инфраструктура работы с телефонией уже реализована внутри инструмента.

Кроме того, платформы часто оснащены полезными фичами для естественного звучания робота в телефонного канале, такими как гибридный синтез, фоновый шум колл-центра, умные перебивания в зависимости от реплики абонента в случае JAICP.

Как выбирать инструмент

Примеры платформ: JAICP, SAP Conversational AI, Intelligent Virtual Assistants (iVa) Platform

Примеры фреймворков: Deep Pavlov — фреймворк для Python, JAICF — для Kotlin, Jovo — для TypeScript.

https://ipavlov.ai/

1. Какая команда выделена под проект? Если разработчики компании работают на Python или JavaScript, то целесообразно искать удобное для них решение. По платформам: есть ли внутри хороший SDK и грамотные абстракции?
2. Есть ли служба поддержки или сообщество, куда можно обратиться за советом и поддержкой? По фреймворку: обязательно зайдите на Github и найдите дату последнего обновления, оцените активность сообщества.
3. NLU. Хватит ли функционала платформы, чтобы научить бота понимать естественную речь, или обучение предлагается только с помощью простейших паттернов? Предусмотрена ли функция интеграции со сторонними NLU по API? По фреймворку: проверьте, что инструмент имеет собственное ядро NLU, так как это самый сложный и важный компонент для разработки в области разговорного ИИ.
4. Достаточно ли возможностей инструмента, чтобы бот соответствовал всем изначальным требованиям? Так, для определенных категорий бизнесов, таких как банки и медицинские учреждения, обязательной является установка в контур, а данную возможность предоставляют не все платформы.

Время на проект. Если проект нужно реализовать в короткие сроки, то простота и скорость разработки на инструменте могут стать определяющим фактором. Срок разработки будет зависеть от того, есть ли готовые компоненты и интеграции, как в платформе, или абсолютно все предстоит разработать с нуля, как в случае с фреймворком.