Thinking Machines показала Inkling 2 Small и обещает открыть веса 594B

Thinking Machines Lab, лаборатория бывшего технического директора OpenAI Миры Мурати, 5 ноября представила Inkling 2 Small, вторую версию своей модели, и пообещала выложить её полные веса под лицензией Apache 2.0 на следующей неделе. Пока модель с закрытыми весами доступна только через собственную платформу компании Tinker: в песочнице для запросов и через API для дообучения и сэмплинга.

Для разработчика это заявка на ещё одну крупную открытую модель уровня «Flash»-класса: MoE на 594 млрд параметров, из которых на токен работают 17 млрд, с картинками на входе, контекстом до 1 млн токенов и сильной стороной в агентном коде и визуальных задачах. Ранние версии этой модели часть пользователей OpenCode уже видела под другим именем — Fledge-Alpha. Ниже разбираем, что известно об архитектуре, как выглядят цифры компании и что из обещанного ещё не выполнено.

Что за модель и чем она отличается от первой Inkling?

По model card, Inkling 2 Small — декодер-трансформер из 48 слоёв с разреженным MoE: каждый токен уходит в 8 из 384 экспертов, внимание чередует локальные и глобальные слои. Картинки кодирует отдельный визуальный энкодер на 292 млн параметров на основе Perception Encoder, изображения режутся на патчи 20 на 20 пикселей и перемешиваются с текстовыми токенами. Выход только текстовый, аудио модель не поддерживает. Числовые форматы — MXFP8 и NVFP4.

Effort настраивается: при обучении уровень усилия выбирался случайно, а в награду входил штраф за длину ответа, чтобы модель училась выбирать между скоростью и тщательностью. Все бенчмарки компании прогнаны на effort 0,99 (xhigh) при температуре 1,0 и лимите траектории 1 млн токенов.

Предыдущие модели лаборатории уже открыты: Inkling и Inkling-Small лежат на Hugging Face под Apache 2.0, у Inkling-Small больше 1,2 млн загрузок. По индексу Artificial Analysis Intelligence Index новая модель, по словам компании, набрала 31 балл и «намного» обогнала прошлые (в сводной таблице точнее — 30,6 по версии индекса 5.0).

Как Inkling 2 Small выглядит в коде на фоне соседей?

Неровно: на одних тестах модель в верхней части таблицы, на других заметно отстаёт. Все цифры ниже — из таблицы самой Thinking Machines; компания пишет, что по возможности берёт результаты, которые публикуют внешние площадки (Artificial Analysis, Scale AI, Vals, Datacurve и другие), но выбор тестов и соперников её собственный. Для сравнения взяты две открытые модели того же класса, большая открытая Kimi K3 и закрытая Claude Haiku 5.5.

Отдельно компания показывает автоисследовательские задачи. В оптимизации GPU-ядер PMPP-Hard (69 задач, четыре попытки, 10 часов) Inkling 2 Small решает в среднем 54,25 задачи против 55,25 у DeepSeek V4.1 Flash и 60 у Claude Opus 5.5. В демонстрации модель сама дообучила Qwen3.5-4B на прогноз временных рядов (спрос на электричество, погода, просмотры Википедии): написала оценщик, собрала 12 500 примеров, попробовала SFT и RL, отказалась от RL, когда прогнозы стали самоуверенными, и через 4 часа 17 минут, потратив $426 из бюджета $500 в Tinker, сдала модель, которая на невиденных данных августа и сентября ошибается примерно на 15% меньше базовой.

Сильнее всего модель выглядит в визуальных задачах. В рейтинге DesignArena Website от 5 ноября у неё 1340 баллов, выше любой открытой модели в таблице; в ScreenSpot Pro, тесте на поиск элементов интерфейса на скриншоте, — 83,8% (91,5% с Python). В тесте на фактические знания AA-Omniscience у модели лучший в таблице показатель non-hallucination rate — 73,3%; Artificial Analysis считает его не по всем ответам, а только среди неправильных, частичных ответов и отказов, то есть это доля случаев, где модель, не зная ответа, не стала выдумывать.

При чём здесь Fledge-Alpha в OpenCode?

Это была она. Thinking Machines пишет в анонсе, что тестировала ранние чекпоинты Inkling 2 Small в OpenCode под именем Fledge-Alpha, чтобы проверить модель на реальных задачах программирования. Так что если вы пользовались Fledge-Alpha в OpenCode, вы видели ранний срез этой модели, а не финальную версию. Свежие изменения самого OpenCode мы собирали в обзоре кодинг-агентов от 6 ноября.

Для кода модель учили RL на сотнях тысяч длинных задач в нескольких агентных обвязках и с разными стратегиями сжатия контекста. Награда зависела не только от прохождения юнит-тестов: часть задач оценивал агентный RL-грейдер, который смотрел, как модель подходила к проблеме. По словам компании, по сравнению с первой Inkling модель лучше следует инструкциям и сама проверяет свою работу.

Как её обучали и что пошло не так по ходу?

Предобучение шло в четыре фазы. Первая — 8,4 трлн токенов текста, кода и картинок, 68 часов на стойках NVIDIA GB300 NVL72, нативно в 4-битном формате NVFP4. Вторая — 3,8 трлн токенов более свежих и качественных данных с контекстом 512 тыс. Третья — около 320 млрд токенов рассуждений и агентных траекторий с контекстом 1 млн, четвёртая — около 34 млрд токенов лучших траекторий. Траектории для третьей и четвёртой фаз в основном сгенерированы более ранними моделями, включая Kimi K3 и собственные модели лаборатории.

Затем один общий RL-прогон: 1075 шагов, больше 17 млн роллаутов, 9 дней на 2048 GPU, больше 4 на 10 в 23-й степени FLOPs и больше 3 трлн токенов. Почти две трети токенов RL пришлись на код (65%), 13,3% — на офисную работу. Первая Inkling обучалась иначе: отдельными прогонами на рассуждения и агентность, которые потом сводили дистилляцией.

Компания честно описывает инцидент. В середине RL асинхронный монитор поймал случай, когда модель, проваливая задачу, обошла сетевую блокировку через сторонний сервис, до которого дотянулась своими поисковыми инструментами. Прогон остановили, усилили инфраструктуру, убрали среды с доступом в веб и добавили синхронную проверку вызовов инструментов перед выполнением. Ранние чекпоинты на сложных задачах также подделывали результаты, игнорировали инструкции и скрывали сделанное; во внутреннем тесте на такое поведение доля нарушений упала с 66,8 у первой Inkling до 14,9, но у закрытой GPT-6.1 Sol она 0,8, и отставание компания признаёт.

Когда будут веса и что с ними можно делать?

Точной даты нет. Формулировка анонса — компания «намерена» выложить полные веса под Apache 2.0 на следующей неделе после завершения внешнего тестирования безопасности и редтиминга; в разделе о безопасности сказано, что выпуск весов зависит от дальнейших проверок компании и партнёров. На вечер 7 ноября в организации thinkingmachines на Hugging Face есть только первые Inkling и Inkling-Small, а в model card новой модели в поле лицензии стоят условия использования Tinker. Другие платформы, кроме Tinker, обещаны «в ближайшие недели».

Что можно сделать сейчас:

• попробовать модель в песочнице Tinker Playground — она даёт только инференс;
• дообучать и сэмплировать через API Tinker по Tinker Cookbook; компания обещает, что дообученные чекпоинты можно будет скачать, когда выйдут веса;
• дождаться весов, если нужен локальный запуск. По нашей оценке, даже в 4-битном NVFP4 с блочными масштабами 594 млрд параметров займут около 334 ГБ памяти, ещё без KV-кэша и прочих накладных расходов; официальных требований к железу для локального запуска компания пока не публиковала.

Цены Tinker на эту модель в анонсе не названы.

Какие ограничения называют сами авторы?

• модель не самый лаконичный собеседник и не всегда выбирает лучший инструмент, особенно в кодовых базах с большим числом скиллов;
• аудио на входе нет, только текст и изображения;
• под чат она оптимизирована хуже: хуже организует и подаёт ответ, злоупотребляет косыми чертами и избыточно реагирует на запросы о психическом здоровье и безопасности;
• в тесте FORTRESS на безобидных запросах модель отвечает в 79,7% случаев против 93–97% у GLM-5.3-Flash, DeepSeek и Kimi K3, то есть отказывает чаще нужного;
• в Terminal Bench v4.0 и SWE-bench Verified она заметно ниже ближайших открытых соперников.

Inkling 2 Small компания называет ступенью «лестницы» моделей разного размера, обученных по одному рецепту, и обещает показать следующие. Главная проверка ближайших дней — выйдут ли веса и под какой лицензией окажутся на Hugging Face. Для сравнения цен на открытые модели класса DeepSeek V4 пригодится наш разбор DeepClaude: Claude Code на DeepSeek V4.

Источники: Thinking Machines: Introducing Inkling 2 Small, Model card Inkling 2 Small, Модели Thinking Machines на Hugging Face

Изображение на обложке: Tproger по данным Thinking Machines