Яндекс открыл доступ к YandexGPT 5 Lite Instruct — новая модель для ИТ-разработчиков и исследователей

Яндекс представил Instruct-версию YandexGPT 5 Lite — компактную нейросеть, доступную для коммерческого и некоммерческого использования. Она получила этап alignment, что позволяет ей лучше следовать инструкциям в промптах.

Модель имеет 8 млрд параметров, поддерживает контекст до 32 тыс. токенов и совместима с llama.cpp и GGUF-форматом, что делает её удобной для запуска даже на ПК. По тестам Яндекса, она на 62% превосходит китайскую Qwen2.5-7B-Instruct и сравнима с GPT-4o Mini.

Использовать YandexGPT 5 Lite Instruct можно через Hugging Face, Yandex Cloud и чат с Алисой. API модели теперь совместим с OpenAI API, что облегчает её интеграцию в проекты на Python, JavaScript и других языках.