Tencent открыла веса Hy4 Flash — дешёвой модели для документов и агентов

Что умеет открытая Hy4 Flash от Tencent, сколько стоит, как её запустить и что разрешает лицензия.

Обложка: Tencent открыла веса Hy4 Flash — дешёвой модели для документов и агентов

Tencent 17 ноября выложила в открытый доступ веса Hy4 Flash — самой дешёвой в работе модели своей линейки Hy: 220 млрд параметров, из которых на токен работают около 12 млрд, вход текстом и картинками и контекст до 1 млн токенов. Веса лежат на Hugging Face, ModelScope и GitCode в трёх вариантах: инструктивная модель, её FP8-версия и базовая предобученная. Лицензия разрешает коммерческое использование, но крупным компаниям, которые продают доступ к модели как к сервису, нужен отдельный договор с Tencent.

Для разработчика это ещё одна дешёвая модель для агентов, которые работают с документами, таблицами, презентациями и браузером: через OpenRouter она стоит $0,035 за миллион входных токенов и $0,14 за миллион выходных. Для кода она подходит хуже: на Terminal-Bench 4.0 модель набирает вдвое меньше, чем DeepSeek-V4.1-Flash, и сама Tencent советует для долгих задач по программированию старшую Hy4. Запустить веса локально можно, но самые лёгкие сборки весят от 126 ГиБ, а поддержка в llama.cpp пока живёт в ещё не влитой ветке.

Ключевые выводы
  • Hy4 Flash — MoE на 220 млрд параметров (из них 63,5 млрд — таблица n-грамм Engram), активно 11,3 млрд на текст плюс 0,43 млрд на зрение, контекст 1 048 576 токенов.
  • По внутреннему тесту Tencent WorkIndex модель набирает 42,1 балла против 39,7 у Hy4 preview при стоимости задачи в 13 раз ниже; это замер вендора.
  • В коде модель слабее конкурентов того же класса: Terminal-Bench 4.0 — 19,2 против 40,0 у DeepSeek-V4.1-Flash-1017 и 35,4 у GLM-5.3-Flash.
  • Лицензия Tencent Hy License 1.0 основана на Apache 2.0; отдельный договор нужен только MaaS-бизнесу с выручкой больше $50 млн или продуктом больше 100 млн MAU.
  • GGUF-сборки от команды AngelSlim весят от 126 до 157 ГиБ; на Mac с M5 Max и 128 ГБ памяти Q4_K_M выдаёт около 48 токенов в секунду, по замерам AngelSlim.

Что выпустила Tencent и где это взять?

Hy (раньше Hunyuan) — семейство моделей Tencent. Hy4 Flash — облегчённая версия флагманской Hy4: модель обучали самодистилляцией из Hy4, а затем обучением с подкреплением, которое, по данным карточки модели, вдвое сократило среднее число выходных токенов за полное выполнение задачи. Через API модель появилась раньше весов: на OpenRouter её добавили 16 ноября, карточки на Hugging Face созданы 17 ноября.

  • Hy4 flash — инструктивная модель в BF16, 148 файлов safetensors;
  • Hy4 flash-FP8 — квантизированная в FP8 версия, её Tencent использует в примерах для vLLM и SGLang;
  • Hy4 flash-base — предобученная модель без инструктивной донастройки, для своего дообучения;
  • Hy4-flash-GGUF — пять квантизированных сборок для llama.cpp от команды AngelSlim из Tencent; в карточке они названы версией «для сквозного тестирования».

У модели два режима рассуждений: reasoning_effort="high" (по умолчанию, с размышлением) и "no_think" для прямых ответов. Рекомендованные параметры сэмплирования — temperature 0,9 и top_p 1,0.

Почему она дешёвая: как устроена архитектура

Почти вся экономия заложена в архитектуру. Модель смешанных экспертов (MoE): в каждом из 41 MoE-слоя 512 экспертов, на каждый токен включаются 16 из них плюс один общий. Ещё один слой плотный, всего 42 слоя. Эксперты работают в сжатом латентном пространстве размерности 1 536 — Tencent называет это LatentMoE.

Второй приём — гибридное внимание. 12 слоёв используют разреженное внимание IndexPool, которое выбирает из всего контекста до 2 048 токенов, а 30 слоёв смотрят только на окно из последних 512 токенов. Поэтому KV-кэш, по данным Tencent, в 24 раза меньше, чем у Hy3, и в 6 раз меньше, чем у Hy4: это и позволяет держать контекст в миллион токенов без огромной памяти.

Третий — Engram, обученные представления биграмм и триграмм, которые модель достаёт из хэш-таблиц на четырёх слоях. Таблица занимает 63,5 млрд параметров из 220 млрд, но в вычислениях почти не участвует: это поиск по таблице, а не умножение матриц. Без Engram, зрительного энкодера и драфтера в модели 155,5 млрд параметров.

Hy4 Flash в цифрах

9 сервисов, 2 столбца
Hy4 Flash в цифрах
ПараметрЗначение
Всего параметров220 млрд (с Engram, ViT и DFly2)
Активно на токен11,3 млрд (текст) + 0,43 млрд (зрение)
Таблица Engram63,5 млрд
Контекст1 048 576 токенов
Слои42: 1 плотный и 41 MoE
Эксперты16 из 512 + 1 общий
Внимание12 разреженных слоёв + 30 со скользящим окном 512
Зрениеэнкодер на основе SigLIP2-So400m, 0,43 млрд
Драфтер DFly25 слоёв, 0,85 млрд
Листайте столбцы →Смахните влевоВсе 2 столбца

Для ускорения генерации в модель встроен драфтер DFly2 на 0,85 млрд параметров для спекулятивного декодирования: маленькая сеть предлагает несколько токенов вперёд, большая их проверяет. DFly2 использует тот же KV-кэш и те же выбранные позиции, что и основная модель, поэтому, по словам Tencent, не требует отдельного KV-кэша и стоит одинаково при любой длине контекста. С мегаядрами, 4-битной квантизацией и DFly2 скорость генерации, по замеру компании, превышает 150 токенов в секунду.

Насколько она хороша: цифры Tencent и независимый тест

Почти все цифры ниже — замеры самой Tencent. Главный аргумент компании — WorkIndex, внутренний набор из восьми тестов на типичные задачи её ИИ-ассистента WorkBuddy: создание и правка презентаций, совместное редактирование Markdown, правка документов, починка таблиц, обработка аудио и видео, понимание изображений. Hy4 Flash набирает 42,1 балла против 39,7 у Hy4 preview и 51,4 у полной Hy4, а средняя стоимость задачи у неё в 13 раз ниже, чем у Hy4 preview, в 20 раз ниже, чем у Hy4, и в 8 раз ниже, чем у DeepSeek-V4.1-Flash-1017 по пиковым ценам.

Tencent открыла веса Hy4 Flash — дешёвой модели для документов и агентов_15
Средний балл на семи открытых агентных бенчмарках и стоимость задачи в юанях (логарифмическая шкала). Источник: Tencent, карточка Hy4 Flash

На семи открытых агентных бенчмарках картина неоднородная. Модель сильна там, где агент работает с офисными задачами и интерфейсом, и заметно отстаёт в программировании:

Открытые бенчмарки: Hy4 Flash и модели того же класса (замер Tencent)

7 сервисов, 6 столбцов
Открытые бенчмарки: Hy4 Flash и модели того же класса (замер Tencent)
БенчмаркHy4 FlashDeepSeek-V4.1-Flash-1017GLM-5.3-FlashGPT-6 LunaHy4
DeepSWE v1.164,673,867,867,174,9
Terminal-Bench 4.019,240,035,413,344,4
ProgramBench (Almost Solved)16,029,013,06,030,0
APEX-Agents v1.163,172,951,544,775,2
AutomationBench v1.0.652,254,348,438,156,2
HLE-Full (с инструментами)55,257,152,249,759,1
OSWorld 2.1 (частичный балл)68,168,464,055,778,9
Листайте столбцы →Смахните влевоВсе 6 столбцов

Условия замера Tencent описала в примечаниях: каждая модель запускалась на максимальном доступном уровне рассуждений, DeepSWE и ProgramBench — через mini-SWE-agent, Terminal-Bench 4.0 — в харнессе Claude Code с лимитом 500 ходов и 13 часов на попытку. Стоимость посчитана по официальным ценам API с курсом 7,2 юаня за доллар. Стоимость задачи у Hy4 Flash самая низкая почти везде: например, 0,29 юаня на DeepSWE против 1,30 у DeepSeek-V4.1-Flash-1017 и 3,23 у GLM-5.3-Flash.

Есть и слепое сравнение: 85 внутренних пользователей WorkBuddy оценили 259 задач из 27 категорий. Hy4 Flash получила 2,79 балла из 4 против 2,81 у Claude Haiku 5.5 при медианном времени выполнения 6,7 минуты и стоимости 0,26 юаня за задачу. Выборка внутренняя, поэтому это тоже аргумент вендора.

Одна из независимых проверок — Plotly. Компания прогнала модель на своём закрытом экзамене по анализу данных из 43 вопросов (публикация от 16 ноября): Hy4 Flash ответила верно на 39, полный прогон стоил $0,13. GPT-6 Luna при той же цене набрала 38, полная Hy4 — 42 за $2,11, Claude Haiku 5.5 — 37 за $0,38, DeepSeek V4.1 Flash — 36 за $0,46. Plotly предупреждает, что каждую модель запускали один раз, а в повторных прогонах результат гуляет до трёх баллов, так что разницу в один-два вопроса стоит считать ничьей.

Можно ли запустить её у себя?

Можно, но это не модель для обычной видеокарты. Для продакшена Tencent рекомендует vLLM или SGLang: в примерах FP8-версия запускается на восьми GPU с тензорным параллелизмом (--tensor-parallel-size 8), для обоих движков выпущены готовые Docker-образы vllm/vllm-openai:hy4-flash и lmsysorg/sglang:hy4-flash, есть рецепт vLLM. Поддержка в Transformers пока живёт в пулреквесте 50903, его нужно ставить из ветки.

Для локального запуска есть GGUF-сборки. Самая лёгкая, IQ2-AH, весит 125,73 ГиБ, стандартная Q4_K_M — 156,79 ГиБ. Поддержка архитектуры в llama.cpp пока в пулреквесте 32517, который не влит, поэтому собирать нужно из этой ветки:

			git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
git fetch origin pull/32517/head:hy4-flash
git checkout hy4-flash
cmake -B build   # -DGGML_CUDA=ON для NVIDIA
cmake --build build --config Release -j
./build/bin/llama-server -m Hy4-flash-Q4_K_M-00001-of-00002.gguf -c 8192 -ngl 99 --jinja --port 8080
		

Скорость команда AngelSlim замеряла на двух машинах со 128 ГБ памяти. На Mac с M5 Max сборка Q4_K_M генерирует 48 токенов в секунду при контексте 4 тыс. и 44 при 32 тыс., Q3_K — 50 и 47; на генерации кода Q3_K доходит до 70 токенов в секунду. Для Mac нужен отдельный патч к конкретному коммиту llama.cpp из репозитория сборок. На RTX Spark с 128 ГБ варианты SPARK-4Bit выдают 26–33 токена в секунду.

Для дообучения Tencent положила в репозиторий готовые конфигурации для LLaMA-Factory, ms-swift и DeepSpeed, в том числе LoRA и варианты для мультимодальных данных.

Что разрешает лицензия

Модель выпущена под Tencent Hy License 1.0. Это отдельная лицензия на основе Apache 2.0 с добавленным разделом 10 о коммерческих условиях для сервисов модели как услуги (MaaS) — тех, кто даёт третьим лицам удалённый доступ к инференсу или дообучению, например через API. Лицензия всемирная, ограничений по странам в тексте нет.

  • Использовать, менять, дообучать и распространять модель можно бесплатно, в том числе в коммерческих продуктах.
  • Отдельная письменная лицензия Tencent нужна MaaS-бизнесу, если его общая выручка превышает $50 млн за любые 12 месяцев подряд, или если модель используется в продукте с более чем 100 млн активных пользователей в месяц.
  • Под MaaS не попадают продукты, где модель встроена в конкретные функции без доступа к ней общего назначения, и простая переадресация запросов в чужой сервис.
  • Внутреннее использование, когда ни модель, ни её ответы не доступны третьим лицам, под ограничения не попадает.
  • Условия раздела 10 переходят на производные: дообученные, квантизированные и дистиллированные версии.

Кому стоит попробовать

По нашей оценке, Hy4 Flash интересна как дешёвая рабочая модель для агентов, которые читают и правят документы, таблицы и презентации, ищут в интернете и управляют интерфейсом: сама Tencent рекомендует её для глубокого поиска, обработки документов, создания слайдов, простых фронтенд-демо и управления компьютером. Для кодинг-агента цифры Terminal-Bench и ProgramBench говорят против неё, на Terminal-Bench у DeepSeek-V4.1-Flash и GLM-5.3-Flash заметный запас, а на ProgramBench Hy4 Flash уступает DeepSeek, но опережает GLM; как выбирали модель для кода по цене решённой задачи, мы разбирали в сентябре.

Проверить модель проще всего через API OpenRouter, где Tencent пока единственный провайдер; цены сторонних хостеров появятся, если модель подхватят. Для локального запуска проверенные конфигурации пока такие: Mac или RTX Spark со 128 ГБ памяти и сборка llama.cpp из ветки пулреквеста. Другие открытые модели, которые помещаются на одну видеокарту, — в нашей подборке.

Источники: Hugging Face: карточка Hy4 flash, Tencent Hy License 1.0, AngelSlim: Hy4-flash-GGUF, Tencent Hy: страница Hy4 flash, OpenRouter: Tencent Hy4 flash, Plotly: Hy4 Flash в Plotly Data Analytics Bench

Изображение на обложке: Логотип: Tencent