Правка истории диалога сбросит рассуждения GPT-6.2 в API OpenAI
OpenAI привязала скрытые рассуждения GPT-6.2 Astra и Sol к истории диалога: агенту, который переписывает старые сообщения, может понадобиться рассуждать заново и тратить больше токенов.
OpenAI 20 ноября рассказала, как защищает свои модели от «враждебной» дистилляции, когда чужую модель учат на ответах и скрытых рассуждениях GPT. Для разработчика из этого текста важнее всего одна деталь: у GPT-6.2 Astra и GPT-6.2 Sol скрытые рассуждения теперь привязаны к истории диалога, и если переписать раннее сообщение, API отбросит рассуждения, которые шли после него.
Это касается всех, кто строит агентов и многошаговые сценарии на Responses API. Интеграция, которая сокращает старые выводы инструментов, подменяет системную инструкцию или сжимает историю своим способом, теряет часть рассуждений. По документации OpenAI, модели может понадобиться повторить их, а это больше токенов, выше цена и задержка, а иногда и хуже ответ. Второе изменение: модели старых семейств со слабой защитой больше не могут читать рассуждения GPT-6.2.
Ключевые выводы
- В GPT-6.2 Astra и Sol скрытые рассуждения привязаны к истории диалога: при правке раннего сообщения API отбрасывает рассуждения после него.
- По внутреннему замеру OpenAI доля успешных атак на извлечение рассуждений из более раннего запроса упала с 54,0% у GPT-6 Astra до 0,2% у GPT-6.2 Astra, из текущего запроса — с 22,9% до 0,9%.
- Еженедельно OpenAI применяет меры за дистилляцию к тысячам или десяткам тысяч аккаунтов, летом 2026 года темп заметно вырос.
- Ученик, обученный на точных рассуждениях, после дообучения в целом сильнее ученика на кратких пересказах рассуждений в кибербенчмарках, но после RL преимущество осталось только при самом большом бюджете вывода.
Что изменилось в API для GPT-6.2?
Рассуждения модели теперь живут только в той истории, которая их породила. Пока вы дописываете новые сообщения в конец, модель опирается на свои прежние рассуждения. Стоит изменить что-то раньше по ходу диалога, и API выбросит элементы рассуждений, которые идут после изменённого места. Кроме того, OpenAI запретила моделям старых семейств со слабой защитой читать защищённые рассуждения GPT-6.2 Astra и Sol. Рассуждения пропадают и при смене семейства или переходе на более слабую модель, а начиная с GPT-6.2 — ещё и при смене safety_identifier между запросами.
Изменением префикса OpenAI называет вставку или правку содержимого перед элементом рассуждений: сокращение старого вывода инструмента, переписывание developer-сообщения, замену старых ходов кратким пересказом. Удаление целых элементов без правки остальных и дописывание новых в конец, по документации, само по себе рассуждения не сбрасывает. Префикс можно поменять и неявно: сменить параметры tools или text.format, на моделях до GPT-6.2 — поменять instructions, или отредактировать ранние элементы input. Смену reasoning.effort параметром запроса документация тоже предлагает заменить дописыванием.
Последствия OpenAI описывает так: модели может понадобиться частично рассуждать заново, что увеличит расход токенов, цену и задержку, а если восстановить потерянное рассуждение не получится, может упасть качество ответа. Попутно страдает и кэш промптов: он совпадает с запросом от начала, поэтому правка в середине отрезает кэш с этого места. Недавно мы писали, как OpenCode починил кэш GPT-6.2 и в замере на gpt-6.2-sol через GitHub Copilot стал отправлять на шаг агента 3 некэшированных входных токена вместо 14 000.
Как переписать интеграцию, чтобы не терять рассуждения?
Рецепт OpenAI — append-only: всё новое дописывать в конец контекста, а начало не трогать. В документации разобраны типовые случаи:
- Сменить уровень рассуждений или схему ответа. Не менять
reasoning.effortиtext.formatв запросе, а дописать вinputэлементconfiguration_updateс новым значением. - Добавить или ограничить инструменты. Новые инструменты — через элемент
additional_toolsс рольюdeveloper, ограничение на ход — черезtool_choiceсallowed_tools. Старые определения инструментов держать в прежнем порядке. - Обновить инструкции. Базовые инструкции положить в первое
developer-сообщение, а изменения дописывать новымdeveloper-сообщением в конец. Для GPT-6.2 верхнеуровневоеinstructionsработает как инструкция на один ход: API ставит её послеinputи тарифицирует как некэшированный ввод. - Сжатие истории. Штатная компакция OpenAI (
/responses/compactилиcontext_management) сохраняет последующие рассуждения. Свою компакцию нужно ставить в конец контекста, а не перед последними ходами, иначе рассуждения после неё пропадут. - Длинные выводы инструментов и тяжёлые картинки. Сокращать их до первой отправки модели, а не задним числом.
Проверить, где интеграция ломает префикс, можно двумя способами. Prompt Cache Diagnostics показывает промахи кэша: в параметр prompt_cache_options.comparison_response_id передаётся ID прежнего ответа, и диагностика называет первое найденное отличие. Поле input_transformations в ответе Responses API показывает, какие элементы рассуждений API удалил и почему; причина prefix_mismatch означает, что интеграция изменила раннюю часть истории.
Кому ничего не менять: если агент только дописывает сообщения в конец, рассуждения сохраняются. Со штатной компакцией OpenAI тоже, но с оговоркой:/responses/compactне принимает историю сconfiguration_update, такие обновления нужно убрать перед вызовом и дописать заново после, а инструменты изadditional_toolsобъявить снова, пишет OpenAI. Риск у тех, кто сам сокращает историю, редактирует старые сообщения или переключает инструменты и формат ответа параметрами запроса.
Зачем OpenAI прячет рассуждения?
Дистилляция — обычный приём машинного обучения: одна модель (ученик) учится на данных, которые выдала другая (учитель). «Враждебной» OpenAI называет дистилляцию без разрешения, когда возможности передовой модели переносят в другую, у которой нет тех же ограничений. По версии компании, так модель может научиться помогать с кибератаками, от которых исходная модель отказалась бы или которые заблокировала бы её защита.
Особенно ценны для этого скрытые рассуждения, промежуточные шаги, которые модель делает до ответа. В них есть то, чего нет в финальном ответе. Пользователь обычно видит ответ, краткий пересказ рассуждений и вызовы инструментов; точные рассуждения OpenAI держит закрытыми.
Компания проверила, сколько это стоит в кибербезопасности. Один и тот же предобученный ученик дообучали на траекториях учителей уровня Astra в задачах по программированию и защитной кибербезопасности: в одном прогоне с точными рассуждениями, в другом с тем, что видит пользователь, включая пересказы. Потом каждого ученика оценивали после дообучения (SFT) и после короткого этапа обучения с подкреплением (RL) в средах по кибербезопасности и коду.
Результат осторожнее, чем можно ожидать. После SFT ученик на точных рассуждениях в целом обошёл ученика на пересказах в бенчмарках ExploitBench и SEC-bench Pro. После RL он остался впереди только при самом большом из проверенных бюджетов вывода, а при меньших бюджетах лучше оказался ученик на пересказах. Из этого OpenAI делает вывод, что закрытые рассуждения могут ограничить перенос киберспособностей, даже если сами задачи разрешены правилами. Точных чисел по бенчмаркам в тексте нет, только график. Похожее преимущество на SWE-bench Verified описывала Anthropic.
Насколько хорошо работает защита по замерам OpenAI?
Защита устроена в два слоя. На уровне отдельного запроса работают обучение модели отказывать в раскрытии рассуждений, входные и выходные классификаторы и ограничения API. Выходные классификаторы проверяют не только ответ, но и аргументы вызовов инструментов: модель может слить рассуждение в аргумент функции, не показав его в ответе. Классификаторы работают и в потоковом, и в обычном режиме. На уровне кампаний OpenAI ищет согласованную активность по сигналам запросов и аккаунтов, а найденные атаки возвращает в обучение и тесты.
Эффект OpenAI измерила своим же адаптивным black-box ред-тимингом: атакующие ИИ-модели видят систему так же, как внешний пользователь, и подстраивают атаку под ответы. Результат усреднён по шести атакующим моделям. Это замер самой компании, независимой проверки нет.
Доля успешных атак на извлечение рассуждений, %
2 сервиса, 3 столбца
Листайте столбцы →Смахните влевоВсе 3 столбца
Адаптивный black-box ред-тиминг, среднее по шести атакующим моделям. Источник: OpenAI
Часть улучшений OpenAI переносит и на GPT-6 Astra. Отдельных цифр по GPT-6.2 Sol в исследовании нет. На уровне аккаунтов компания еженедельно применяет меры за дистилляцию к тысячам или десяткам тысяч аккаунтов, и летом этот темп заметно вырос. Цель, по словам OpenAI, — уменьшить объём и ценность данных, которые достаются дистилляторам, удорожить кампании и сократить время реакции на новые атаки.
Какую атаку OpenAI раскрыла в сентябре?
Летнюю кампанию по переносу рассуждений между диалогами. 30 сентября OpenAI сообщила, что с 1 июля шла кампания по извлечению рассуждений: атакующие, в частности, копировали зашифрованные рассуждения из одного диалога и просили модель в другом диалоге расшифровать и пересказать их. 24 и 25 июля компания увидела всплеск в 16 000 запросов от более чем 4 000 пользователей, а связанная активность охватила кластер из более чем 15 000 пользователей; к 28 июля связанную активность полностью пресекли, заблокировав или ограничив аккаунты. Ядро кампании OpenAI приписала людям, связанным с Moonshot AI, разработчиком Kimi.
После этого OpenAI усилила изоляцию рассуждений между пользователями, рабочими пространствами, организациями и семействами моделей и закрыла путь, по которому можно было раскрыть чужие зашифрованные рассуждения. Прямо связь с привязкой рассуждений в GPT-6.2 компания не формулирует, но, по нашей оценке, это та же линия: рассуждение, перенесённое в другой контекст, перестаёт работать. В феврале OpenAI также проинформировала Конгресс США о попытках DeepSeek дистиллировать американские передовые модели.
Компания поддерживает законопроекты, которые дали бы властям США инструменты против иностранных участников, незаконно извлекающих возможности американских моделей, и сообщила Конгрессу о поддержке Chip Security Act, AI OVERWATCH Act и MATCH Act. Экспортный контроль, по её словам, ограничивает доступ к железу для обучения, а защита от дистилляции — к возможностям уже обученных моделей. Индикаторы компрометации OpenAI передаёт другим разработчикам моделей, находками делится через Frontier Model Forum.
Что будет дальше?
OpenAI обещает скоро рассказать о других недавно сорванных кампаниях и продолжить исследование того, сколько возможностей переносится при разных учениках и рецептах обучения. Для команд на GPT-6.2 практический шаг понятен уже сейчас: проверить в ответах поле input_transformations и перевести агента на дописывание контекста в конец. Подробности о самих моделях — в нашей новости о выходе GPT-6.2 Astra и Sol.
Источники: OpenAI: Combatting adversarial distillation, 20 ноября 2026, OpenAI API: Keep the prefix unchanged, OpenAI: Disrupting a coordinated model distillation campaign, 30 сентября 2026, Anthropic: Distillation defenses
Изображение на обложке: OpenAI