LiteLLM 1.103.0-rc.1 получил расширение для VS Code и управление MCP-сессиями
Предварительная версия открытого AI-шлюза LiteLLM получила расширение для VS Code, управление активными MCP-сессиями и новые маршруты Speech API.
20 сентября вышел LiteLLM 1.103.0-rc.1. Проект предоставляет разработчикам и ML-платформенным командам единый интерфейс в формате OpenAI для обращения к моделям более чем 100 провайдеров. Новая версия пока имеет статус предварительной.
Что добавили
Расширение для VS Code позволяет использовать LiteLLM как поставщика языковых моделей прямо в редакторе. Для MCP-шлюза появилась панель активных сессий с привязкой к AI-клиенту и пользователю. Администраторы могут принудительно закрывать такие подключения и отзывать сохранённые учётные данные.
Релиз также расширяет работу со Speech API: добавлены сквозные маршруты для Amazon Transcribe и Azure AI Speech, потоковое распознавание через Deepgram и Vertex AI Chirp, а также транскрибация с помощью xAI Grok Voice.
Почему это важно
Расширение для VS Code позволяет подключать модели через LiteLLM непосредственно в редакторе. Просмотр активных MCP-сессий по AI-клиентам и пользователям, их принудительное закрытие и отзыв сохранённых учётных данных упрощают централизованное управление подключениями.
Эти возможности ориентированы прежде всего на пользователей VS Code, администраторов MCP-шлюза и команды, работающие с речевыми сервисами. Для рабочих систем стоит учитывать статус RC: проект рекомендует использовать образы со стабильным тегом, прошедшие нагрузочное тестирование.
Источники
