llama.cpp 1.0.0 обещает стабильный C API и требует обновить старый код
Движок локального запуска моделей перешёл на семантические версии: несовместимые изменения C API теперь означают новую мажорную версию.
Команда llama.cpp 13 ноября 2026 года выпустила версию 1.0.0 движка для локального запуска языковых моделей и одновременно версию 1.0.0 тензорной библиотеки ggml, на которой он построен. С этого релиза оба проекта обещают отмечать несовместимые изменения API и ABI сменой мажорной версии. Для разработчиков, которые собирают свои приложения поверх libllama, это означает предсказуемые обновления: внутри ветки 1.x публичный C API ломаться не должен.
Перед тем как зафиксировать интерфейс, авторы провели чистку: из llama.h удалили 35 устаревших функций и ещё несколько параметров. Код, который их вызывал, с версией 1.0.0 не соберётся, пока его не перепишут. Тем, кто пользуется готовыми программами на базе llama.cpp или запускает llama-server, переписывать ничего не нужно, но в сервере изменились настройки безопасности — часть прежних сценариев теперь требует явного разрешения флагом.
Ключевые выводы
- llama.cpp 1.0.0 и ggml 1.0.0 вышли 13 ноября 2026 года; предыдущий релиз llama.cpp, 0.9.0, был 4 ноября.
- Мажорная версия теперь меняется при ломающем изменении публичного C API в каталоге
include, минорная — при новых возможностях, бэкендах и моделях, патч — при исправлениях без изменения API. - Из
llama.hудалены 35 устаревших функций,llama_set_warmupи параметрdefrag_tholdвместе с флагом--defrag-thold. - В релизе появились KV-кэш в формате FP8, кэш экспертов MoE в оперативной памяти, эндпоинт
/v1/audio/speechи поддержка Kimi-K3.1-Pro. - В
llama-serverзакрыли SSRF, DNS rebinding и ошибку в обработке--cors-origins.
Что обещает версия 1.0.0 разработчикам, которые встраивают llama.cpp?
Главное обещание — несовместимость станет видна прямо по номеру версии. В блоге на Hugging Face авторы анонса, среди которых создатель проекта Георгий Герганов, описывают правила так: мажорная версия растёт при ломающем изменении публичного C API в каталоге ./include, минорная — при обратно совместимой новой возможности, обновлении бэкенда, поддержке новой модели или добавлении в API, патч — при исправлении ошибки без изменения API. Правила действуют для всех проектов организации ggml-org, использующих семантическое версионирование.
Правила смены версий в проектах ggml-org
3 сервиса, 2 столбца
Листайте столбцы →Смахните влевоВсе 2 столбца
Блог ggml-org на Hugging Face
Причину перехода к строгим правилам команда объясняет ростом числа зависимых проектов. За 3,5 года с первого коммита на llama.cpp стали опираться многие приложения, и, по словам авторов, каждая новая интеграция означает больше разработчиков, зависящих от интерфейсов библиотеки. «По мере роста использования мы будем строже следить за тем, чтобы эти границы были видны потребителям», — говорится в анонсе (перевод редакции).
Правда, эти гарантии касаются только библиотек libllama и libggml и их публичных заголовков. Про формат GGUF, параметры командной строки и HTTP API сервера в правилах ничего не сказано, поэтому стабильность для них релиз не обещает.
Что сломается при переходе с 0.9.0?
В первую очередь сломается сборка кода, который вызывал устаревшие функции. По заметкам к релизу, из llama.h удалены llama_set_warmup, 35 устаревших функций, поле defrag_thold и соответствующий флаг --defrag-thold. API спекулятивного декодирования NextN перенесли из llama-ext.h в основной заголовок, а функцию llama_set_embd_state_src переименовали в llama_set_ctx_state_src. В мультимодальной части удалён заголовок clip.h — его инфраструктура собрана в mtmd.
Чистка затронула и базовую библиотеку: в ggml 1.0.0, как сказано в его заметках, тоже убран устаревший публичный API и старые операции DIAG_MASK. Если вы поддерживаете собственные привязки к llama.cpp для Python, Go, Rust или другого языка, список используемых функций стоит сверить с новым llama.h до обновления зависимости.
При этом в llama_context_params добавились поля moe_cache_size и moe_cache_cpu_share. Структура параметров изменилась, поэтому программу, собранную с 0.9.0, по нашей оценке, придётся пересобрать заново — одной подменой файла библиотеки здесь не обойтись.
Какие возможности появились в самом движке?
Главные добавления касаются работы с памятью. KV-кэш теперь можно хранить в 8-битном формате с плавающей точкой OCP FP8: это включается флагами -ctk f8_e4m3 и -ctv f8_e4m3, поддерживаются опциональные статические масштабы для каждого тензора. Для моделей с архитектурой MoE (в них на каждый токен работает только часть весов, так называемые эксперты) появился кэш экспертов в оперативной памяти: не попавших в кэш экспертов можно считать на процессоре, и доля таких вычислений настраивается. Ещё одна новинка — загрузка внешних данных PLE из отдельных шардов GGUF через флаги --shard и --ple.
Кроме оптимизаций памяти, в движок добавили три текстовые архитектуры: Kimi-K3.1-Pro, Ripple-65B-Preview и xing4_0. Из мультимодальных моделей поддержаны синтез речи drama-3 от Fish Audio, MageVL-Cowork и зрение Kimi-K3.1, а Gemma 4 научилась принимать потоковое аудио. На Windows модель теперь можно читать с диска без буферизации, по аналогии с DirectIO в Linux.
Всего, по оценке команды в блоге, llama.cpp уже поддерживает больше 150 вариантов архитектур моделей и все основные методы спекулятивного декодирования — конкретного списка методов в анонсе нет.
Что изменилось в llama-server и веб-интерфейсе?
Сервер стал строже по умолчанию. В релизе исправлены обработка --cors-origins, атака DNS rebinding, SSRF через CORS-прокси и адреса медиафайлов, а также прямой доступ из браузера к дочерним экземплярам сервера. Два прежних поведения теперь нужно включать явно: --allow-unauthenticated-tools разрешает инструменты без аутентификации при доступе не с локального адреса, --media-allow-private-urls разрешает загрузку медиа с адресов частных сетей. Токен HF_TOKEN сервер теперь отправляет только на хосты huggingface.co.
Если llama-server у вас открыт за пределами localhost, клиенты ходят к нему из браузера или передают ссылки на картинки во внутренней сети, после обновления проверьте эти сценарии: без новых флагов они могут перестать работать.
Из нового в API появился совместимый с OpenAI эндпоинт /v1/audio/speech для синтеза речи и параметр температуры у /tts. Вызовы инструментов MCP теперь отменяются, когда клиент отключился или истёк таймаут, а MCP-сервер получает об этом уведомление. Обновился и веб-интерфейс: чаты собираются в именованные группы, поле ввода стало редактором Markdown с предпросмотром, для телефонов сделана отдельная раскладка, а у вложенных PDF показываются текст и миниатюры страниц.
Как теперь устроены релизы и откуда ставить llama.cpp?
Релизные теги вида vX.Y.Z и ночные сборки разведены. По описанию процесса в репозитории ggml, ночные сборки из ветки master получают теги b[NUM] по номеру коммита, а официальный тег ставится только тогда, когда внутренняя копия ggml в llama.cpp совпадает с выпущенной версией ggml. Это гарантирует, что дистрибутив может собрать llama.cpp из релизного тега и слинковать его с системной ggml.
Готовых бинарных файлов у релиза 1.0.0 на GitHub нет: к нему приложена только ссылка на ночную сборку b12359. В анонсе названы такие каналы распространения: предрелизные сборки для Linux, macOS, Windows, Android и iOS, а также Docker, Debian, Homebrew, conda-forge, MacPorts, Winget и XCFramework для iOS и macOS. По тому же описанию процесса, пакеты Homebrew и Debian зависят от системной ggml, а Winget и установщик llama.app публикуют ночные сборки — перевод их на официальные релизы там отмечен как нерешённый вопрос.
В конце анонса команда упоминает настольные приложения Llama для macOS и Windows на llama.app, которые она делает вместе с Hugging Face. Подробностей о них в тексте нет.
Что делать тем, кто зависит от llama.cpp?
- Авторам привязок и приложений на
libllama: пересобрать проект с новымllama.h, заменить вызовы удалённых функций, аllama_set_embd_state_srcпоменять наllama_set_ctx_state_src, после чего закрепить зависимость на ветке 1.x. - Тем, кто держит
llama-serverв сети: проверить после обновления CORS, инструменты и загрузку медиа с внутренних адресов и при необходимости добавить новые флаги. - Мейнтейнерам пакетов: собирать из тегов
vX.Y.Zс опцией CMake-DLLAMA_BUILD_IS_DEV=OFF, как описано в правилах ggml-org. - Пользователям готовых программ со встроенным llama.cpp делать ничего не нужно: новая версия придёт с обновлением самой программы.
Параллельно с продуктом команда вкладывается в автоматическую проверку изменений. В анонсе сказано, что CI проектов работает на собственных раннерах с оборудованием NVIDIA, AMD, Qualcomm, Arm, IBM и Intel, а мощности масштабируются через сервисы Hugging Face. Авторы также пишут, что используют языковые модели в разработке, сохраняя приоритет за качеством кода, контролем над архитектурой и пониманием деталей реализации.
Срок жизни ветки 1.x и планы на 2.0 команда не называла. Насколько строго новое правило будет соблюдаться, покажут ближайшие минорные релизы: до сих пор они выходили каждые одну-две недели, и проекты вокруг llama.cpp, например форк для запуска DeepSeek-V4-Flash в 64 ГБ памяти, поддерживают свои патчи поверх конкретной версии. Подборку моделей, которые можно запускать этим движком на своём железе, мы собирали в обзоре открытых моделей.
Источники: GitHub: llama.cpp v1.0.0, Hugging Face: llama.cpp v1.0.0: A stronger foundation for the local AI ecosystem, GitHub: ggml v1.0.0, GitHub: Releases and versioning of ggml-org projects
Изображение на обложке: ggml-org