Выход — арендовать видеокарту в облаке. Разбираемся, чем такие облака отличаются друг от друга, сколько стоит час работы на мощной видеокарте и какие российские облака подойдут, если данные нельзя вывозить за границу. В конце — подсказка, что выбрать под вашу задачу.

• GPU-серверы: контроль над окружением для обучения, дообучения и инференса.
• Управляемый инференс: запуск модели с меньшим объёмом работ по развёртыванию инфраструктуры.
• Инструменты ML-разработки: ноутбуки и трекинг экспериментов для командной работы.
• Условия эксплуатации: доступность ускорителей, стоимость всей конфигурации, сеть и требования к данным.

Как выбирать облако под свою модель

В подборку вошли российские провайдеры с GPU-инфраструктурой или сервисами развёртывания ML-моделей. Сравниваем их по задаче, которую получает команда: настроить собственный сервер, организовать эксперименты или опубликовать модель для приложений. Порядок участников не означает превосходства по производительности: подходящая конфигурация зависит от модели и нагрузки.

Начните с видеопамяти: место нужно не только весам модели, но и рабочим данным, включая KV-кеш — память для хранения контекста уже обработанного текста при генерации ответа. Дообучение требует отдельного расчёта памяти под выбранный метод. Для нескольких GPU проверяйте соединение между картами и узлами: наличие восьми ускорителей само по себе ничего не говорит о скорости распределённого обучения.

Сравнивайте полную стоимость: GPU, CPU, RAM, диски, хранение датасетов, трафик и простаивающие ресурсы. Для сервиса с постоянными запросами дополнительно нужны мониторинг, резервирование и понятные условия масштабирования. Российское расположение дата-центра само по себе не закрывает требования 152-ФЗ: до загрузки персональных данных проверьте документы на конкретную услугу и распределение обязанностей между вами и провайдером.

1. immers.cloud — видеокарта на час, а не на год

Допустим, вы хотите запустить открытую нейросеть — Qwen или DeepSeek — или дообучить её на своих данных. Домашней видеокарты вам точно не хватит, но можно у immers.cloud арендовать железо: берёте сервер с нужной видеокартой, работаете сколько надо и платите только за это время — с точностью до секунды.

Что это и кому подойдёт

immers.cloud — российское облако, которое сдаёт в аренду серверы с видеокартами NVIDIA. Сервер создаётся сам, через сайт или API: заявок и ожидания нет, обычно всё готово через несколько минут после регистрации и оплаты.

Кроме серверов у облака есть каталог готовых нейросетей Immers Foundation Models. По словам провайдера, в нём больше 200 открытых моделей — это крупнейший такой каталог в России. Для каждой указано, сколько видеопамяти ей нужно. Видеопамять — это рабочий стол нейросети: если модель на нём не помещается, она просто не запустится. Поэтому подсказка из каталога экономит часы проб и ошибок.

Два примера от провайдера:

• Команда «КС Авто» вынесла круглосуточную модерацию контента на три облачные RTX 4090 с Ollama: потоки изолированы по видеокартам, система работает стабильно, а на старте это обошлось дешевле команды из 15 модераторов.
• В IBS собрали песочницу для экспериментов с ИИ на GPUStack и vLLM: 11 серверов на A100, RTX 3090 и RTX 4090 обслуживают 14 моделей, и новую гипотезу проверяют за часы.

Облако рассчитано на тех, кто не боится командной строки: подключаться к серверу по SSH и настраивать окружение придётся самому. Мастера «в один клик» для всего ML-процесса здесь нет.

Какие видеокарты есть

Всего 13 моделей: H200, H100 NVL, H100, A100, V100, A10, A2, T4, RTX 5090, 4090, 3090, 3080 и 2080 Ti. В один сервер ставят до восьми карт, соединённых NVLink — быстрой шиной, через которую карты обмениваются данными, чтобы большая модель могла работать сразу на нескольких. InfiniBand для связи между серверами — по запросу.

Серверы стоят в дата-центре уровня Tier III в Москве, и всё оборудование там погружено в диэлектрическую жидкость — это называется иммерсионным охлаждением. Жидкость забирает тепло лучше воздуха, поэтому видеокарты не перегреваются и не сбрасывают частоту даже при круглосуточной нагрузке.

Как запустить модель

Есть три пути. Первый — публичный эндпоинт. Эндпоинт — это адрес, на который ваша программа отправляет вопрос и получает ответ модели. Проверить модель можно в чате на сайте или по API, ничего не разворачивая. На момент публикации это бесплатно, провайдер готовит переход на оплату за токены.

Второй — частный эндпоинт: модель разворачивается на арендованном сервере через vLLM. При создании можно указать несколько серверов — на каждом поднимется своя копия модели, а балансировщик раскидает между ними запросы.

Третий — обычный сервер: больше ста готовых образов в маркетплейсе, включая ComfyUI для генерации картинок. Управлять серверами можно через OpenStack API и Terraform.

Дообучать модели тоже можно, но своими скриптами на арендованном сервере: готового инструмента для этого нет. Данные хранят в S3, на момент публикации оно бесплатное.

Сколько стоит

Оплата посекундная, минимальный платёж — 100 ₽. Самый простой сервер с T4 стоит 20,34 ₽ в час, сервер с H200 — 423,04 ₽ в час. За предоплату на 30 или 60 дней дают скидку: на H200 — 10 и 15%, на T4 — 15 и 25%. Месяц H200 с предоплатой обойдётся в 274 129,80 ₽ вместо примерно 304 600 ₽.

Для новых пользователей есть тестовый период на 30 дней. Юрлица работают по оферте или договору через ЭДО, закрывающие документы приходят 5 числа каждого месяца. НДС провайдер не платит — он освобождён по статье 145.1 НК РФ.

Ограничения

• Трекинга экспериментов, версионирования моделей и датасетов, интеграций с MLflow и Kubeflow нет — полный MLOps-процесс придётся собирать самому.
• Одну модель на 400B+ параметров не получится разнести по нескольким серверам из коробки: потолок — восемь видеокарт в одной машине.
• По умолчанию у нового аккаунта лимит: четыре сервера, 16 vCPU, 128 ГБ памяти и 1600 ГБ хранилища. Расширяют через поддержку.
• В S3 нет версионирования, а скорость около 50 МБ/с и заметно плавает.
• Юрлицам на общей системе налогообложения НДС к вычету принять не получится.

Поддержка и документы

Поддержка работает круглосуточно: чат на сайте, Telegram, Max, почта и личный менеджер. Заявленное время ответа — не больше пяти минут. Инструкции собраны в FAQ на сайте и на YouTube-канале. У провайдера есть сертификат ГОСТ Р ИСО/МЭК 27001-2021 по защите информации, а за время простоя он обещает компенсацию в полном объёме.

Сайт: immers.cloud

2. Selectel — гибкие GPU-конфигурации

Selectel предлагает GPU как выделенное PCI-устройство внутри виртуальной машины. Можно подобрать CPU, RAM и диски под конкретную задачу, а рядом разместить хранилище, базу данных и другие компоненты приложения.

Кейсы клиентов и кому подойдёт

В кейсе RobotMIA описана инфраструктура для голосовых роботов с облачными серверами, GPU и объектным хранилищем. Подобный набор подойдёт команде, которая разворачивает речевые модели или компьютерное зрение вместе с прикладным API. Ещё один сценарий — обучение на GPU с последующим переносом модели в контейнерный продакшен.

Что можно развернуть

На GPU-ВМ можно использовать TensorFlow, PyTorch и другие ML-фреймворки, устанавливать собственное ПО и загружать образ системы. Доступен Kubernetes с GPU для обучения и инференса. Такой вариант удобен, если команда уже поставляет приложения в контейнерах и хочет встроить модели в тот же процесс разработки.

Инфраструктура и экосистема

На странице продукта перечислены T4, A2, A30, A100, RTX 4090, RTX 6000 Ada и другие карты. Доступность зависит от пула. Управлять ресурсами можно через панель, API и Terraform; рядом доступны S3, IAM, балансировщики и резервное копирование дисков. Selectel заявляет соответствие серверов требованиям 152-ФЗ до УЗ-1: состав услуги и документы следует сопоставить с требованиями конкретной информационной системы.

Отзывы и репутация

Публичный кейс RobotMIA позволяет оценить применение инфраструктуры в работающем сервисе. Указанные в нём показатели относятся к конкретной архитектуре и не служат обещанием задержки для любой модели. Агрегированная пользовательская оценка на странице GPU-продукта не приведена.

Поддержка и каналы связи

Для подбора конфигурации на странице указаны sales@selectel.ru и телефон 8 800 555-06-75. Это каналы предварительной консультации; порядок обращения по техническим инцидентам и условия реакции лучше согласовать до запуска. Есть русскоязычная документация по созданию GPU-сервера, оплате, API и Terraform.

Тарифы, ограничения и условия

Оплата — по потреблению, стоимость выбранной конфигурации уточняется в калькуляторе на сайте. Для проектов аккаунта указаны 3 ТБ бесплатного внешнего трафика; дополнительный трафик — 0,90 ₽/ГБ. Услугой могут пользоваться физические и юридические лица: доступны пополнение картой и выставление счёта.

При выборе региона сначала проверьте наличие нужной GPU в конкретном пуле. Возможность отключить ускоритель помогает сокращать расходы между задачами, но оставшиеся ресурсы нужно учитывать отдельно. Аренда GPU-ВМ даёт инфраструктуру для ML; настройку окружения, запуск заданий и эксплуатацию модели должна организовать команда.

Официальный сайт: Selectel — облачные серверы с GPU.

3. Cloud.ru — управляемый инференс

Cloud.ru предлагает Evolution ML Inference для развёртывания моделей на GPU, в том числе из пользовательских Docker-образов. Это вариант для команды, которой нужно обслуживать запросы к готовой модели с автоматизацией развёртывания и масштабирования.

Кейсы клиентов и кому подойдёт

Разработчик может запустить модель из Hugging Face для текстового помощника; команда генеративной графики — развернуть обработку изображений; ML-инженер — передать собственное окружение в Docker. Это сценарии использования продукта, а не названные клиентские внедрения: на странице ML Inference конкретные заказчики не перечислены.

Что можно развернуть

Поддерживаются vLLM, TGI, Ollama, Diffusers и Transformers, а также языковые, трансформерные и диффузионные модели. Помимо Hugging Face и маркетплейса, предусмотрен запуск с пользовательским Docker-образом. Сервис описывает динамическое автомасштабирование при изменении числа запросов.

Инфраструктура и экосистема

Для ML Inference указаны V100 и H100, а также совместное использование GPU несколькими инференсами — Shared GPU. В экосистеме Evolution есть объектное хранилище, Kubernetes, реестр артефактов, мониторинг и логирование. Cloud.ru сообщает о дата-центрах в России; расположение ресурсов конкретного сервиса и доступную сетевую схему нужно проверить при проектировании.

Отзывы и репутация

На странице ML Inference нет агрегированной пользовательской оценки. При выборе сервиса полезнее проверить совместимость собственного образа, время запуска экземпляра и поведение под всплесками запросов. Известность провайдера не определяет эти характеристики для конкретной модели.

Поддержка и каналы связи

Стандартная техподдержка работает бесплатно круглосуточно. На странице поддержки перечислены личный кабинет, телефон 8 800 444-24-99, support@cloud.ru и Telegram. Для проектов с дополнительными требованиями есть премиальный тариф по запросу.

Тарифы, ограничения и условия

Стоимость уточняется на сайте для выбранной конфигурации. При расчёте бюджета учитывайте число одновременно работающих экземпляров и условия Shared GPU: экономия на разделяемом ускорителе должна соответствовать требованиям к задержке. Общие бонусы облака не стоит считать бесплатными GPU-часами без проверки условий конкретного предложения.

Существенное ограничение для закрытых данных: Private Endpoint на странице ML Inference помечен «скоро будет доступен». Если доступ без публичного интернета обязателен, подтвердите готовность функции до выбора сервиса. ML Inference предназначен для исполнения моделей; обучение и дообучение требуют отдельного решения и расчёта ресурсов.

Официальный сайт: Cloud.ru — Evolution ML Inference.

4. VK Cloud — инструменты ML-разработки

VK Cloud предлагает GPU-ВМ и Cloud ML Platform с преднастроенными JupyterHub и MLflow. Это сочетание вычислительных ресурсов, среды для ноутбуков и инструментов работы с экспериментами.

Кейсы клиентов и кому подойдёт

Команда дата-сайентистов может использовать платформу для совместной разработки и сравнения экспериментов. Для прикладных сервисов провайдер отдельно описывает инференс небольших языковых моделей, видеоаналитику и получение эмбеддингов для RAG-поиска. На странице GPU эти сценарии приведены без привязки к конкретным клиентам.

Что можно развернуть

GPU можно использовать для обучения и инференса на виртуальных машинах с Linux или Windows. В Cloud ML Platform доступны преднастроенные JupyterHub и MLflow; GPU-конфигурация подключается к среде разработки. Наличие этих инструментов уменьшает объём начальной настройки, но производственный API и процесс доставки модели всё равно нужно спроектировать.

Инфраструктура и экосистема

Среди ускорителей перечислены L4, L40S, A30, A100 и V100. Для небольших нагрузок заявлена аренда доли карты через vGPU — от 1/24 до целого ускорителя. Доступные профили и объём видеопамяти необходимо уточнять под модель. Провайдер указывает российские ЦОД уровня Tier III и аттестацию виртуальных серверов по 152-ФЗ до УЗ-1. Рядом доступны объектное хранилище и управляемые базы данных.

Отзывы и репутация

Агрегированный пользовательский рейтинг на странице Cloud GPU не указан. Для оценки платформы имеет смысл провести небольшой командный эксперимент: проверить доступ к ноутбукам, запись метрик в MLflow и воспроизводимость запуска. Это покажет, насколько готовая среда соответствует процессам вашей команды.

Поддержка и каналы связи

Технические вопросы можно направлять через портал поддержки. При подключении Cloud GPU через заявку назначается менеджер для расчёта конфигурации и коммерческого предложения. Также доступна русскоязычная документация по GPU.

Тарифы, ограничения и условия

На странице перечислены часовой, месячный и годовой тарифные планы. Минимальное время аренды GPU-ВМ — один час; цена выбранной конфигурации уточняется на сайте или у менеджера. Для подключения предлагается оставить заявку, поэтому сроки выдачи ресурсов лучше согласовать до начала проекта.

vGPU имеет смысл, когда задача не использует всю карту. Доля ускорителя ограничивает доступные ресурсы, поэтому нельзя выбирать её только по числу параметров модели: важны точность весов, длина контекста и параллельные запросы. Заявленный SLA 99,95% относится к доступности виртуальных машин и не означает такую же гарантию скорости ответов вашей модели.

Официальный сайт: VK Cloud — Cloud GPU.

5. Timeweb Cloud — облако и выделенные

Timeweb Cloud предлагает облачные и выделенные серверы с NVIDIA GPU. Провайдера можно рассмотреть для собственного ML-окружения и проектов, которым требуется отдельно подобрать физическую конфигурацию.

Кейсы клиентов и кому подойдёт

В каталоге историй на странице GPU есть проекты AI-компаний и голосовых роботов. Например, опубликована история миграции AI-сервиса и клиентских проектов. Для команды разработки практический сценарий — разместить модель рядом с бэкендом, S3 и базой данных. Для длительных вычислений можно отдельно обсудить выделенный сервер.

Что можно развернуть

На сервер разрешено устанавливать собственное ПО; доступны SSH, KVM-консоль и приложения из маркетплейса. Провайдер относит к GPU-сценариям обучение нейросетей, распознавание речи и изображений, рекомендательные системы и чат-боты. Стек обучения, зависимости и сервер инференса можно собрать под свою модель.

Инфраструктура и экосистема

В линейке перечислены T4, RTX 3090, RTX 4090 и карты серии A. Обычно провайдер предлагает от одной до четырёх GPU на сервер, большее количество обсуждается отдельно. В облаке есть Kubernetes, S3, базы данных и балансировщики. Наличие Kubernetes как соседнего продукта не следует автоматически считать подтверждением поддержки выбранной GPU-конфигурации в кластере.

Отзывы и репутация

Опубликованные истории позволяют увидеть работу облака с AI-сервисами и прикладной инфраструктурой. Их результаты относятся к отдельным проектам: кейс миграции сам по себе не подтверждает скорость обучения на GPU. Агрегированная пользовательская оценка на странице продукта не приведена.

Поддержка и каналы связи

Поддержка заявлена в режиме 24/7/365. На странице доступны чат, Telegram, форма обращения по электронной почте и телефон 8 800 700-32-92. Подбор нестандартной конфигурации и изменение выделенного сервера обсуждаются с командой провайдера.

Тарифы, ограничения и условия

Для облачных серверов указано почасовое списание, хотя тариф формируется за месяц. Стоимость GPU-конфигурации уточняется на сайте или через заявку. H100 и H200 находятся в разделе предзаказа: для него указан минимальный аванс от 5000 ₽. Это не цена месяца аренды и не подтверждение немедленной выдачи ускорителя.

У Timeweb Cloud есть российские и зарубежные площадки. Если данные должны оставаться в РФ, зафиксируйте российскую локацию и наличие нужной GPU именно в ней. Для выделенного сервера согласуйте срок подготовки и изменения конфигурации; обещание быстрого запуска облачной ВМ нельзя переносить на индивидуальную поставку оборудования.

Официальный сайт: Timeweb Cloud — серверы с GPU.

Сравнение по ключевым критериям

• Самостоятельное окружение: immers.cloud — GPU-серверы и каталог моделей; Selectel — GPU-ВМ и Kubernetes с GPU; Timeweb Cloud — облачные и выделенные серверы с установкой собственного ПО.
• Готовые инструменты: Cloud.ru — управляемый инференс с поддержкой Hugging Face, Docker и автомасштабирования; VK Cloud — Cloud ML Platform с JupyterHub и MLflow; immers.cloud — публичные и частные эндпоинты.
• Оплата: immers.cloud заявляет посекундный учёт, Selectel — оплату по потреблению, Timeweb Cloud — почасовые списания за облачные серверы. У VK Cloud минимальная аренда GPU-ВМ составляет час. Стоимость Cloud.ru нужно рассчитать для выбранной конфигурации инференса.
• Доступность: у Selectel состав GPU зависит от пула; VK Cloud предлагает подключение через заявку; H100 и H200 у Timeweb Cloud указаны как предзаказ. Наличие модели ускорителя в каталоге не гарантирует свободную конфигурацию на нужную дату.
• Ограничения: в immers.cloud потребуется самостоятельная настройка ML-процесса; у Cloud.ru Private Endpoint для ML Inference пока обозначен как будущая функция. Для Timeweb Cloud отдельно выбирайте российскую локацию, если этого требуют условия обработки данных.

Что выбрать под вашу задачу

Для проверки открытой модели начните с каталога immers.cloud, а для управляемого исполнения с масштабированием изучите Cloud.ru. Если важны командные ноутбуки и трекинг экспериментов, рассмотрите VK Cloud. Для собственного контейнерного стека с GPU подойдёт к рассмотрению Selectel; для выбора между облачной ВМ и отдельным физическим сервером — Timeweb Cloud.

Перед длительной арендой проведите короткий тест на своих данных. Зафиксируйте используемую видеопамять, время обучения или задержку инференса, пропускную способность и итоговый расход средств. Эти показатели помогут выбрать конфигурацию точнее, чем сравнение названий GPU или стоимости одного часа.

Обе проблемы решаются на слое, о котором в прототипе не думают вовсе: на слое обслуживания модели. Разбираем, куда уходит память при генерации, какие механизмы возвращают пропускную способность и как посчитать стоимость пакетной задачи до того, как сделан первый запрос.

Инференс — это применение уже обученной модели: веса зафиксированы, и модель предсказывает вывод по одному токену за раз. Учиться она перестала, но дешёвой от этого не стала: длинные запросы дороже в обработке, длинные ответы дороже в генерации, а множество одновременных запросов давит и на планировщик, и на память.

Генерация делится на две фазы с разной природой: разбор запроса грузит вычисления и хорошо распараллеливается, а генерация ответа последовательна и упирается в число шагов.

Главный потребитель памяти видеокарты — это кеш ключей и значений: для типовой конфигурации выходит около 128 КБ на каждый токен, и именно он ограничивает число одновременных запросов.

Один запрос пользователя к агенту превращается в десять, двадцать и больше обращений к модели, поэтому нагрузка получается неравномерной по памяти и по длительности.

Непрерывное пакетирование не даёт коротким запросам ждать длинных, а кеширование общего префикса убирает повторную обработку одного и того же системного промпта.

Расход токенов не является метрикой продуктивности: у неё тот же изъян, что у подсчёта строк кода, потому что она вознаграждает объём, а не результат.

Две фазы инференса, которые дорожают по-разному

Обслуживающая система делает две вещи: координирует запросы на стороне процессора и исполняет модель на ускорителе. Само исполнение распадается на две фазы, и путать их не стоит, потому что дорожают они от разных причин.

Разбор запроса (в англоязычной документации prefill). Модель обрабатывает все токены входного промпта. Их можно считать параллельно, поэтому фаза упирается в вычислительную мощность. Длинный промпт с историей диалога, найденными документами и описаниями инструментов увеличивает задержку до первого символа ответа.

Генерация (decode). Модель выдаёт по одному токену за раз, и каждый следующий зависит от предыдущих, поэтому распараллелить эту фазу нельзя. Длинный ответ означает много отдельных шагов исполнения модели.

Отсюда три коротких правила: длинные входы удорожают разбор, длинные ответы удорожают генерацию, а рост числа одновременных запросов давит одновременно на планирование и на память.

KV-кеш: где на самом деле кончается память

Внутри трансформера механизм внимания строит для каждого обработанного токена представления ключей и значений. Чтобы не пересчитывать их заново на каждом шаге генерации, модель хранит их в памяти. Это и есть кеш ключей и значений, без которого авторегрессивная генерация была бы непрактичной.

Платить за него приходится памятью видеокарты, и объём считается напрямую:

Для модели с 32 слоями, 8 KV-головами, размерностью головы 128 и половинной точностью получается примерно 128 КБ на один токен. У других моделей цифра будет своя, но зависимость одна: чем длиннее контекст, тем больше памяти занято. Именно поэтому длинные промпты, долгие диалоги и подтянутые из поиска документы делают инференс заметно дороже, а свободный объём этого кеша прямо определяет, сколько запросов сервер потянет одновременно.

Почему агентская нагрузка тяжелее обычной

Агент усиливает все перечисленные проблемы, потому что один запрос пользователя порождает множество обращений к модели: спланировать следующее действие, выбрать инструмент, разобрать его результат, свернуть найденное, восстановиться после ошибки, решить, нужна ли ещё работа, и наконец собрать ответ.

Одно взаимодействие легко превращается в десять или двадцать вызовов, а при сотне активных пользователей счёт идёт на тысячи. Вдобавок запросы неравноценны: в одном короткий вопрос, в другом длинный системный промпт с историей, документами и результатами инструментов. Получается динамическая нагрузка, где запросы приходят в разное время, занимают разный объём памяти и завершаются вразнобой.

Четыре механизма, которые возвращают пропускную способность

Именно на такую нагрузку рассчитаны специализированные движки обслуживания вроде vLLM. Вместо загрузки модели прямо в приложение и вызова метода генерации приложение обращается к серверу по HTTP, и логика агента отделяется от инфраструктуры под ней.

Страничное внимание, оно же PagedAttention

В наивной системе кеш каждой последовательности занимает один непрерывный участок памяти. Поскольку длины непредсказуемы, участки резервируются с запасом, и память утекает во фрагментацию. Страничная организация хранит кеш блоками фиксированного размера, которые выделяются по мере надобности и не обязаны лежать рядом. Завершился запрос — его блоки вернулись в общий пул и достались другому.

Непрерывное пакетирование

Обычное пакетирование работает раундами: сервер собирает группу запросов и держит её состав неизменным, пока цикл не отработает. Для генерации текста это плохо, потому что запросы заканчиваются в разное время.

Представьте: запросу A нужно сто токенов ответа, запросу B двадцать, а запрос C приходит, пока A ещё считается. При фиксированном пакетировании B освободится рано, но его место будет простаивать, а C дождётся конца всего цикла. Непрерывное пакетирование добавляет C в ближайший же шаг генерации, как только освободилось место. Ускоритель остаётся занят полезной работой.

Кеширование общего префикса

Агенты раз за разом отправляют один и тот же системный промпт, те же описания инструментов и ту же преамбулу рабочего процесса. Без кеширования этот префикс обрабатывается заново при каждом запросе:

С кешированием общая часть считается один раз и переиспользуется. Важное ограничение: выигрыш приходится только на фазу разбора запроса, генерацию новых токенов приём не ускоряет. Поэтому эффект тем заметнее, чем длиннее общий префикс.

Что здесь на самом деле новое:
Обычное кеширование ключей и значений есть в любой современной реализации авторегрессивной генерации, это не отличительная черта конкретного движка. Преимущество специализированных серверов в другом: в том, как они планируют запросы и как выделяют, переиспользуют и освобождают память кеша между конкурирующими нагрузками.

Совместимый интерфейс

Четвёртый пункт скучный, но на практике решающий: сервер выставляет интерфейс, совместимый с OpenAI. Существующие приложения и агентские фреймворки переключаются на него правкой конфигурации, а не переписыванием кода.

Когда всё это действительно нужно

Специализированный сервер инференса оправдан, когда вы держите модели с открытыми весами у себя и обслуживаете конкурентную нагрузку. Для одиночного прототипа на одного пользователя он избыточен: там хватит локального запуска модели, и вся описанная механика памяти просто не проявится.

Переломный момент наступает, когда прототип начинает принимать параллельный трафик, а агент проводит большую часть времени в ожидании модели. Тогда дешевле улучшить слой обслуживания под ним, чем переписывать логику самого агента.

Вторая половина задачи: считать деньги до запуска

Инфраструктура решает вопрос скорости. Вопрос стоимости она не решает, а иногда и обостряет, потому что удобная система располагает к длинным контекстам.

Дальше речь пойдёт и о тех, кто ходит в модель по чужому тарифу. Своя инфраструктура переводит счёт из токенов в часы работы видеокарт, но сама задача остаётся той же: понять цену задачи до запуска, а не после. Разница только в единице, в которой её считают.

Реестр токенов вместо пробного запуска

Пакетные задачи ломаются неприятным образом: счётчик прыгает по завершении, а не до старта; повтор удваивает расход без всякой обратной связи; системные промпты, длинные ответы и служебная разметка тоже считаются. Крошечный офлайновый реестр превращает всё это в проверку до первого обращения к модели.

Оценка строится на грубой эвристике: для английского текста один токен занимает примерно четыре символа. Точность здесь и не нужна, задача — понять порядок величины:

Проверим на задаче из 6000 сводок, где промпт занимает около 21 000 символов, а ответ ограничен 500. Выходит 5250 токенов на промпт плюс 125 на ответ, то есть 5375 на вызов, а на всю задачу 32 250 000 токенов при лимите в 30 000 000. Задача не помещается с запасом минус 7,5%, и узнать это удалось, не потратив ни одного токена.

Соседняя задача с промптом в 4000 символов, тем же ограничением ответа в 500 символов и 10 000 вызовов даёт 1125 токенов на вызов и 11 250 000 на всё, помещаясь с запасом в 62,5%. Живая пробная отправка ни того, ни другого не покажет: она расскажет о поведении конкретной ручки прямо сейчас, но не о сумме по всей пачке, и вдобавок сама потратит токены.

Почему расход токенов нельзя делать метрикой продуктивности

Тут стоит остановиться отдельно, потому что соблазн велик. Расход токенов удобно считается и потому легко попадает в отчёты, но как метрика продуктивности он повторяет ошибку подсчёта строк кода.

Возьмите двух разработчиков с одинаковой задачей и одним инструментом. Первый пишет размытые промпты, позволяет контексту разрастаться в длинной переписке и заставляет модель раз за разом восстанавливать одну и ту же вводную. Второй решает ту же задачу коротким настроенным сценарием. По расходу токенов первый выглядит продуктивнее, хотя на деле он просто шумнее.

Само по себе потребление токенов отвечает на вопрос, пользуется ли человек инструментом вообще. На раннем этапе внедрения этот сигнал полезен. Но он ничего не говорит о том, получилось ли в итоге что-то осмысленное, а «много ИИ» и «хорошо с ИИ» — разные вещи.

Стоимость на результат

Правильная постановка вопроса одна: что мы получили за то, что потратили. Оплата по токенам — совершенно разумная коммерческая модель со стороны поставщика вычислений. Ошибка возникает на стороне покупателя, когда единица биллинга поставщика переезжает во внутреннюю систему оценки работы.

Связь между расходом и результатом реальна, но не универсальна. Более способные модели действительно тратят больше токенов и на сложных задачах дают заметно лучший результат: расширенные рассуждения и многошаговые попытки стоят токенов и окупаются. При этом один и тот же расход при разных конфигурациях и стратегиях промптинга даёт совершенно разные результаты, а неудачная обвязка и небрежная работа с контекстом жгут токены без всякой отдачи.

Практический вывод: считайте отношение результата к затратам, а не сам объём. Для команды безопасности это стоимость одной подтверждённой находки, для продуктовой команды — доля задач, доведённых до готовой и проверенной функциональности.

Слишком жёсткая квота выталкивает работу за периметр

Обратная крайность встречается не реже. Когда организация выставляет квоты слишком консервативно, инженеры, которые видят реальную пользу от инструмента, упираются в искусственный потолок и начинают пользоваться личными аккаунтами и бесплатными тарифами.

Это рациональное поведение человека, которому нужно сдать работу. Но результат предсказуем: использование уходит из контролируемого контура, а вместе с ним пропадают наблюдаемость, возможность аудита и любая уверенность в том, что результат соответствует требованиям к качеству и безопасности. Осмысленная квота с измерением отдачи здесь работает лучше, чем экономная квота без измерений.

Что забрать с собой

Слой обслуживания модели, то есть инференса, становится узким местом раньше, чем логика приложения, и лечится он не переписыванием агента, а работой с памятью и планированием запросов. Кеш ключей и значений задаёт потолок конкурентности, страничная организация возвращает потерянную на фрагментации память, непрерывное пакетирование убирает простой, а кеширование префикса снимает повторную обработку одинаковых преамбул.

Со стоимостью работает та же логика: считать нужно до запуска и в единицах результата, а не расхода. Офлайновый расчёт пакета занимает двадцать строк и ловит ошибку формы задачи раньше, чем она превратится в исчерпанный лимит посреди ночного прогона.

Материалы разбора: устройство обслуживания моделей под агентские нагрузки, почему расход токенов не метрика продуктивности и офлайновый расчёт бюджета пакетной задачи.

Посчитайте свой самый крупный пакетный прогон по эвристике четырёх символов на токен и сравните с остатком лимита. Если не сходится, вы только что сэкономили ночь и деньги.

immers.cloud — каталог open-source моделей с автоподбором конфигураций: публичные эндпоинты для теста, приватные — с оплатой за время работы сервера.

Cloud4Y — корпоративный облачный провайдер с LLM-платформой, широким выбором GPU от V100 до B300 и сертификациями под регуляторов.

VK Cloud — облачные GPU как дополнение к виртуальным машинам, Kubernetes и Bare Metal; удобно для инференса в managed-контурах.

HOSTKEY — аренда выделенных и виртуальных GPU-серверов с почасовой оплатой, GPU passthrough и кластерами H100/H200.

AdminVPS — VPS и выделенные серверы с GPU, где в стоимость включено бесплатное администрирование и панель ISPmanager.

Как мы выбирали

В подборку вошли российские и доступные из России платформы с реальным парком GPU NVIDIA, поддержкой инференса LLM и понятной оплатой в рублях. Исключили провайдеры, которые по условиям задачи не подходят: Selectel, Timeweb Cloud и Cloud.ru. Оценивали по четырём критериям: доступные GPU и VRAM, удобство запуска моделей, форматы аренды и поддержка.

• GPU и память: наличие карт от RTX 4090 до H200/A100 для разных размеров моделей.
• Запуск LLM: готовые образы, каталоги моделей, поддержка vLLM, Docker или Kubernetes.
• Форматы аренды: виртуальные машины, bare metal, GPU passthrough, почасовая или посекундная тарификация.
• Локальные ограничения: оплата в рублях, дата-центры в РФ, соответствие 152-ФЗ, русскоязычная поддержка.

1. immers.cloud — каталог моделей

immers.cloud — российская облачная платформа аренды GPU с посекундной тарификацией и готовыми образами. Для LLM-инференса на ней есть отдельный продукт, Foundation Models: каталог из более чем 200 открытых моделей, по заявлению провайдера крупнейший в России. Платформа сама подбирает конфигурацию сервера под нужный объём VRAM и показывает стоимость.

Кейсы клиентов и кому подойдёт

• Команда «КС Авто» вынесла круглосуточную модерацию контента на три облачных RTX 4090 с Ollama: потоки изолированы по видеокартам, контур работает стабильно, а на старте это обошлось дешевле команды из 15 модераторов.
• В IBS на GPUStack и vLLM собрали R&D-песочницу: одиннадцать инстансов на A100 и RTX 3090/4090 обслуживают 14 моделей.
• Подойдёт тем, кому нужен приватный API внутри России и кто готов настроить окружение сам: мастера в один клик здесь нет.

Что можно развернуть

• Публичные эндпоинты с OpenAI-совместимым API — доступ по ключу сразу после регистрации, запрос из веб-чата или по API.
• Приватные эндпоинты на vLLM и SGLang: платят за время работы сервера, а не за токены; поддерживаются GPTQ, AWQ, FP8 и INT4/INT8, GGUF — нет.
• Более ста готовых образов из маркетплейса, свои Docker-контейнеры и любые версии inference-движков.

Инфраструктура и экосистема

• Собственный ЦОД Tier III в Москве с иммерсионным охлаждением — по заявлению провайдера, первый такой в России.
• Тринадцать моделей GPU NVIDIA: H200, H100 NVL и H100, A100, V100, RTX 5090, 4090, 3090, 3080 и 2080 Ti, A10, A2 и T4.
• До восьми GPU в инстансе, GPUDirect и NVLink; NVSwitch и InfiniBand — на выделенных серверах.
• Локальные NVMe до 1 500 000 IOPS, S3-хранилище, снапшоты по 2 ₽ за ГБ в месяц, сети до 20 Гбит/с, OpenStack API.

Отзывы и репутация

Платформа неоднократно упоминалась в рейтинге CNews и редакционных материалах tproger.ru и Habr в контексте запуска каталога Foundation Models и тестирования новых open-source моделей. Публичных агрегированных рейтингов на независимых площадках мы не нашли.

Поддержка и каналы связи

• Онлайн-чат на сайте и Telegram.
• Специализированная поддержка по нейросетям: nn@immers.cloud.
• Отдел продаж: sale@immers.cloud.
• База знаний, FAQ и видеогайды на YouTube, VK и Rutube.

Тарифы, ограничения и условия

• Посекундная тарификация без минимального срока, платёж от 100 ₽; свыше 300 конфигураций в прайсе и скидки за долгую аренду.

• На момент публикации публичные эндпоинты бесплатны — провайдер готовит переход на оплату за токены. Приватные эндпоинты и серверы тарифицируются посекундно, за время работы, независимо от числа сгенерированных токенов. Тестовый доступ выдают индивидуально по запросу до 30 дней.

• Юрлицам — оферта или договор с ЭДО, УПД и акты 5 числа месяца.

Ограничения: мультиузловых кластеров из коробки нет — модель не разносится между серверами, для архитектур от 400B нужна своя оркестрация. Формального SLA с компенсациями нет. Занятую конфигурацию придётся ждать.

Официальный сайт: immers.cloud/ai/model

2. Cloud4Y — корпоративный выбор

Cloud4Y — российский облачный провайдер с собственной географически распределённой инфраструктурой. Для LLM предлагает отдельную LLM-платформу и GPU-облако с широким выбором ускорителей.

Кейсы клиентов и кому подойдёт

• Компаниям, которым нужно дообучать и хостить LLaMA, Mistral, GPT-подобные модели на сертифицированной инфраструктуре.
• Корпоративным заказчикам с требованиями к 152-ФЗ, ФЗ-187, PCI DSS и сертификатам ФСТЭК/ФСБ.
• Командам, которым нужны как бюджетные GPU для экспериментов, так и H200/B300 для production.

Что можно развернуть

• Виртуальные машины и выделенные серверы с GPU NVIDIA.
• LLM-платформу для запуска, дообучения и масштабирования LLM на собственной инфраструктуре.
• DSVM-образы с предустановленным PyTorch, TensorFlow, Keras, XGBoost, CUDA, OpenCV и Jupyter Notebooks.
• vGPU/RDSH-конфигурации для виртуальных рабочих мест и рендер-ферм.

Инфраструктура и экосистема

• 4 дата-центра уровня Tier III в России и за рубежом (Москва, Новосибирск, Германия, Нидерланды, Турция).
• GPU от NVIDIA Tesla V100 до B300 и RTX 6000 Blackwell, включая RTX 4090/5090 и A6000 Ada.
• SLA до 99,99%, оптическое кольцо, MetroCluster, бэкапы в geo-удалённый ЦОД (14 точек восстановления).
• Сертификации: ФЗ-152, ФЗ-187, PCI DSS, CSA STAR, ISO/IEC 27001, ФСТЭК, ФСБ.

Отзывы и репутация

Провайдер работает с 2009 года, по данным компании — более 2000 организаций-клиентов. По итогам 2024 года Cloud4Y стала лидером рейтинга TAdviser по числу завершённых IaaS-внедрений, весной 2026 получила бронзу рейтинга российских GPU-провайдеров от «Компьютерры». На сайте публикуются кейсы «Киномакс», «Сатурн-Юг», Фонда содействия реформированию ЖКХ и других.

Поддержка и каналы связи

• Телефон: +7 495 268-04-12.
• Email: support@cloud4y.ru.
• Техподдержка обещает ответ в течение 10 минут.
• Онлайн-чат, тикет-система, блог и база знаний.

Тарифы, ограничения и условия

• Почасовая и помесячная тарификация, pay-as-you-go.
• По данным сайта, RTX 4090 — от ~66 ₽/час, H100 80 ГБ — от ~686 ₽/час (без НДС, цены могли измениться).
• Бесплатная миграция инфраструктуры и тестовый период LLM-платформы до 10 дней.
• Без обращения в поддержку можно менять ресурсы ВМ.

Официальный сайт: cloud4y.ru/cloud-hosting/gpu

3. VK Cloud — managed Kubernetes

VK Cloud предлагает облачные GPU как дополнительную опцию к виртуальным машинам, Kubernetes, Bare Metal и VDI. Это удобный вариант, если вы уже работаете в экосистеме VK Cloud или хотите развернуть инференс в managed-контуре.

Кейсы клиентов и кому подойдёт

• Командам, которые используют Cloud Containers (managed Kubernetes) и хотят добавить GPU-ноды.
• Разработчикам AI-агентов и RAG-ассистентов, которым нужны базы данных, брокеры сообщений и object storage рядом с GPU.
• Компаниям, которым важна OpenStack-совместимость и Terraform-провайдер.

Что можно развернуть

• Виртуальные машины Cloud Servers с подключёнными GPU NVIDIA.
• Cloud Containers — managed Kubernetes с GPU-нодами для размещения vLLM или SGLang.
• Bare Metal GPU для обучения крупных моделей с Infiniband до 400 Гбит/с.
• Управляемые PostgreSQL, Redis, OpenSearch и Container Registry для полного AI-контура.

Инфраструктура и экосистема

• GPU NVIDIA: L4 24 ГБ, L40S 48 ГБ, A30 24 ГБ, A100 40/80 ГБ, V100/V100S, H200 141 ГБ.
• Готовые шаблоны конфигураций с фиксированным числом vCPU, RAM и GPU.
• Дата-центры в России, соответствие 152-ФЗ, аттестаты ФСТЭК, PCI DSS.
• vGPU для экономии на инференсе небольших моделей.

Отзывы и репутация

VK Cloud — крупный российский облачный провайдер, часть экосистемы VK. Kubernetes-сервис имеет CNCF-сертификацию. Публичных агрегированных рейтингов самого сервиса Cloud GPU на независимых площадках мы не нашли.

Поддержка и каналы связи

• Личный кабинет и документация cloud.vk.ru/docs.
• Техническая поддержка через тикеты.
• Блог с инструкциями по GPU и ML.

Тарифы, ограничения и условия

• Оплата по фактическому использованию; точные цены уточняются в калькуляторе.
• По данным прайс-листа, H200 с 44 vCPU и 256 ГБ RAM — от ~18 ₽/мин за 1 GPU (~793 000 ₽/мес) (актуальность цен проверяйте на сайте).
• Минимальный срок аренды и SLA зависят от конфигурации.
• Доступны российские операционные системы.

Официальный сайт: cloud.vk.ru/cloud-gpu

4. HOSTKEY — широкий выбор GPU

HOSTKEY специализируется на аренде выделенных и виртуальных GPU-серверов. Платформа подходит как для экспериментов с RTX 4090, так и для кластеров H100/H200 под обучение больших моделей.

Кейсы клиентов и кому подойдёт

• ML-инженерам, которым нужен bare metal или VPS с GPU passthrough без деления ресурсов.
• Компаниям, которым важны локации за пределами России (Европа, США, Турция).
• Командам, которым нужна почасовая оплата для R&D и бенчмарков.

Что можно развернуть

• Bare metal серверы и VPS с выделенной GPU-картой через passthrough.
• Предустановленные фреймворки: TensorFlow, PyTorch, Caffe, Caffe2.
• Docker, Kubernetes, NVIDIA Container Toolkit, Jupyter, Ollama из маркетплейса.
• GPU-кластеры с NVLink/Infiniband для распределённого обучения.

Инфраструктура и экосистема

• GPU NVIDIA: H100, H200, A100, RTX 5090, RTX 6000 PRO 96 ГБ, RTX 4090/3090, AMD Radeon AI PRO R9700.
• Процессоры AMD EPYC и Intel Xeon Scalable, DDR5 ECC, NVMe SSD.
• Дата-центры Tier III в России (Москва), Нидерландах, Финляндии, Германии, Исландии, Франции, США, Турции.
• IPMI/iDRAC, базовая DDoS-защита, безлимитный порт 1 Гбит/с, 10 Гбит/с по запросу.

Отзывы и репутация

HOSTKEY давно работает на рынке хостинга и GPU-серверов. На сайте размещены отзывы от «Ай-Кью Хостинг», «ГРАН ЛИМИТЕД», Crytek, «Пульт.ру», МФТИ и других компаний. Публичных агрегированных рейтингов GPU-сервиса в независимых источниках не указано.

Поддержка и каналы связи

• Круглосуточная техподдержка, время ответа — до 15 минут.
• Поддержка на русском и английском языках.
• Маркетплейс приложений и база знаний.

Тарифы, ограничения и условия

• Почасовая и помесячная оплата, скидки до 25% при долгосрочной аренде.
• По данным сайта, VPS с RTX 4090 — от 15 000–25 000 ₽/мес, готовые серверы — от 16 000 ₽/мес, индивидуальные сборки — от 26 000 ₽/мес.
• Тестовые серверы предоставляются только компаниям с корпоративным email.
• Бесплатные GPU-серверы для научных проектов и соревнований по data science.

Официальный сайт: hostkey.ru/gpu-dedicated-servers

5. AdminVPS — администрирование включено

AdminVPS — российский хостинг-провайдер, который предлагает VPS/VDS и выделенные серверы с GPU. Ключевое отличие — бесплатное администрирование и включённая панель ISPmanager, что снижает порог входа для команд без выделенного DevOps.

Кейсы клиентов и кому подойдёт

• Малому и среднему бизнесу, которому нужен GPU-сервер, но нет ресурсов на самостоятельное администрирование.
• Командам, которым важна панель управления и поддержка «под ключ».
• Проектам с требованиями к защите данных: 152-ФЗ, GDPR.

Что можно развернуть

• VPS и выделенные серверы с GPU NVIDIA: RTX A4000, A5000, A6000, H100, A100, RTX 4090/3090/3080.
• Фреймворки TensorFlow, PyTorch, Caffe, Caffe2.
• Кастомные конфигурации под проект, объединение карт по NVLink.
• Контейнеры и произвольное ПО на основе Linux-образов.

Инфраструктура и экосистема

• Дата-центры Tier III Plus в России, а также Нидерланды, Германия, Финляндия, Исландия, Беларусь, Казахстан, Польша.
• KVM-виртуализация, NVMe SSD, защита от DDoS L2–L4 по умолчанию.
• Панель ISPmanager включена в стоимость при выборе опции администрирования «Все включено».
• Регистрация доменов в 760+ зонах, SSL, мониторинг, резервное копирование.

Отзывы и репутация

Провайдер работает с 2012 года, по данным обзорных площадок — около 21 000 клиентов. Отзывы в профильных рейтингах отмечают высокий аптайм и оперативную поддержку. Публичных кейсов GPU-клиентов на сайте не указано.

Поддержка и каналы связи

• Круглосуточная техническая поддержка 24/7.
• Бесплатное администрирование серверов.
• Online-консультант на сайте, тикет-система в панели управления.
• Телефон: +7 (495) 155-25-31.

Тарифы, ограничения и условия

• GPU-VPS — от ~7 750 ₽/мес (по данным партнёрских обзоров); точные цены — в конфигураторе.
• Трафик на скорости 1 Гбит/с.
• Тестовый период 7 дней для виртуальных серверов в российских ЦОД.
• MoneyBack: возврат средств за неиспользованные дни и 5-кратная компенсация простоев.

Официальный сайт: adminvps.ru/vps/vps_gpu.php

Сравнение по ключевым критериям

GPU и память. immers.cloud и HOSTKEY предлагают самый широкий выбор карт — от RTX 4090 до H200. Cloud4Y добавляет флагманские B200/B300 и RTX 6000 Blackwell. VK Cloud фокусируется на серверных ускорителях Tesla с готовыми шаблонами. AdminVPS закрывает задачи среднего сегмента на A4000–A6000 и RTX 4090.

Удобство для LLM. immers.cloud выделяется каталогом моделей и готовыми эндпоинтами. Cloud4Y предлагает LLM-платформу и DSVM. VK Cloud интегрирует GPU в Kubernetes и Bare Metal. HOSTKEY даёт максимальную свободу конфигурации, а AdminVPS — поддержку и администрирование.

Тарификация. У immers.cloud две модели: публичные эндпоинты по токенам, серверы и приватные эндпоинты — посекундно, что выгодно для коротких экспериментов. Cloud4Y, VK Cloud и HOSTKEY поддерживают почасовую оплату. AdminVPS ориентирован в первую очередь на помесячную аренду.

География и соответствие. Все пять провайдеров имеют дата-центры в РФ и работают с российскими документами. Cloud4Y, VK Cloud и AdminVPS акцентируют сертификации; HOSTKEY — широчайший выбор зарубежных локаций.

Выводы

Для запуска открытых LLM в России в 2026 году есть несколько рабочих сценариев. Если важнее всего быстро протестировать модель и получить приватный API — удобен immers.cloud с каталогом Foundation Models. Для корпоративных проектов с требованиями к сертификациям лучше смотреть на Cloud4Y. Тем, кто уже живёт в экосистеме VK Cloud, подойдёт Cloud GPU в связке с Kubernetes. Если нужен bare metal или VPS с GPU passthrough и широкая география — HOSTKEY. А командам без собственного DevOps стоит присмотреться к AdminVPS с включённым администрированием.

Перед заказом сверьте актуальные цены в конфигураторах: GPU-рынок меняется быстро, и цены на H100/H200 могут существенно отличаться от указанных ориентиров.

Платформа позиционируется как инструмент для крупного бизнеса и государственных компаний, которым нужно сохранить контроль над данными и соответствовать требованиям регуляторов по безопасности. При необходимости вычислительные мощности можно масштабировать в публичное облако.

• Cloud.ru запустила Evolution Stack.ML — платформу для обучения ИИ-моделей в частном и гибридном облаке.
• В основе лежит сервис Evolution Distributed Train: обучение, тюнинг, развёртывание моделей и совместная работа команд.
• Платформа поддерживает изолированные рабочие пространства для более чем 200 команд одновременно.
• По заявлению компании, утилизация GPU растёт с 35% до 90%, а окупаемость серверных мощностей составляет менее 3 месяцев.

Что умеет платформа

Ядро продукта — сервис Evolution Distributed Train. Он объединяет инструменты для разработки, управления экспериментами и мониторинга в единую экосистему. Пользователи могут запускать изолированные рабочие пространства для более чем 200 команд одновременно.

Для распределения нагрузки используются механизмы очередей, приоритетов, аллокаций и спотов. По данным Cloud.ru, это позволяет поднять утилизацию GPU с 35% до 90% и окупить затраты на серверное оборудование менее чем за 3 месяца. Совместное использование кластеров, по оценке компании, ускоряет обучение и разработку новых ИИ-решений на 20%.

Встроенные механизмы self-healing автоматически обнаруживают сбои оборудования, перезапускают задачи и заменяют GPU-ноды. OSS-слой платформы Cloud.ru позволяет отслеживать загрузку инфраструктуры и контролировать расходы.

Evolution Stack.ML помогает преодолеть барьеры для внедрения ИИ в крупном бизнесе и государственных компаниях — решение соответствует строгим требованиям к безопасности и нормам регуляторов. Evolution Stack.ML повышает экономическую эффективность использования собственного «железа» и при этом даёт доступ к самым современным технологиям и методам работы с ИИ.

Для кого это

Решение рассчитано на организации с самыми высокими требованиями к безопасности: государственные и финансовые структуры, операторы ЦОДов и промышленные предприятия. Инфраструктура отвечает требованиям регуляторов к обработке и хранению персональных и финансовых данных, а также размещению ГИС и КИИ.

Cloud.ru также ссылается на собственное исследование: в России растёт спрос на гибридные сценарии. Среди наиболее востребованных — обработка данных и использование ИИ, разработка и тестирование в облаке, георезервирование и disaster recovery.

Выводы

Запуск Evolution Stack.ML — попытка Cloud.ru закрыть спрос на корпоративное ИИ-обучение с соблюдением регуляторных ограничений. Если заявленные цифры подтвердятся в реальных внедрениях, платформа может стать интересной альтернативой самостоятельной сборке инфраструктуры для машинного обучения.

Источник: пресс-служба Cloud.ru.

Реклама. Рекламодатель: ООО «Облачные технологии», ИНН 7736279160, erid: 2W5zFHcxyBP

Новый чип построен по 3-нм техпроцессу TSMC, содержит 70 млрд транзисторов и предлагает 128 ГБ общей памяти LPDDR5x с пропускной способностью 273 ГБ/с. Заявленная производительность ИИ-вычислений — 1 петафлопс в формате FP4 благодаря тензорным ядрам пятого поколения.

CPU включает 10 высокопроизводительных ядер Cortex-X925 и 10 ядер Cortex-A725 с частотой до 4,1 ГГц. GPU располагает 6144 CUDA-ядрами и поддерживает DLSS 4.5. Процессор и ускоритель связаны через соединение NVLink-C2C, что устраняет копирование данных через PCIe.

• RTX Spark — 20-ядерный ARM + GPU Blackwell на одном кристалле, 70 млрд транзисторов.

• 128 ГБ единой памяти позволяет запускать модели до 120 млрд параметров локально.

• 1 петафлопс FP4 на тензорных ядрах Blackwell — преимущество в ИИ-инференсе крупных моделей перед платформами без нативной поддержки FP4.

• Первые ноутбуки ASUS, Dell, HP, Lenovo, Microsoft и MSI — осенью 2026.

Технические характеристики RTX Spark

• Процессор: 20 ядер ARM (10× Cortex-X925 + 10× Cortex-A725), до 4,1 ГГц
• GPU: Blackwell, 6144 CUDA-ядер, тензорные ядра 5-го поколения с FP4
• Память: 128 ГБ LPDDR5x, 256-бит шина, 273 ГБ/с
• Техпроцесс: TSMC 3 нм, 70 млрд транзисторов
• TDP: до 140 Вт (десктоп DGX Spark)
• Соединение: NVLink-C2C между CPU и GPU

Контекст: чем RTX Spark бросает вызов Apple Silicon

RTX Spark — это переосмысленный чип GB10 Grace Blackwell, который уже используется в настольной системе DGX Spark за $4699. Теперь NVIDIA адаптировала его для мобильных устройств и настольных ПК от сторонних OEM-производителей.

Прямой конкурент — Apple M4 Max: у него выше пропускная способность памяти (546 ГБ/с против 273 ГБ/с), но меньше ИИ-производительность на NPU (38 TOPS INT8 против 1000 TOPS FP4 на GPU). Прямое сравнение некорректно из-за разных архитектур и форматов, однако для моделей свыше 50 млрд параметров преимущество RTX Spark становится критическим: он держит их в нативном FP4, тогда как Apple вынуждена идти на агрессивное сжатие.

Microsoft уже анонсировала Surface Laptop Ultra на базе RTX Spark. К осени 2026 года ожидается свыше 30 моделей ноутбуков от ASUS, Dell, HP, Lenovo, Microsoft и MSI.

Выводы

RTX Spark — попытка NVIDIA занять нишу, которую Apple удерживает с 2020 года: высокопроизводительные ARM-компьютеры с единой памятью. Но вместо копирования подхода Apple компания ставит на свою сильную сторону — тензорные ядра и экосистему CUDA.

Главный вопрос — насколько быстро созреет экосистема Windows on ARM и оптимизация приложений под новую архитектуру. NVIDIA утверждает, что оптимизированные приложения (например, Adobe Premiere) работают вдвое быстрее, чем на конкурирующих платформах, однако независимых тестов пока нет — устройства выйдут только осенью. Если разработчики адаптируют софт под Grace-ядра и FP4, RTX Spark может стать рабочей лошадкой для локальных LLM и генеративного ИИ.

NVIDIA делает ставку не на победу во всех бенчмарках, а на доминирование в локальном выводе ИИ-моделей — там, где размер модели и формат вычислений решают больше, чем чистая пропускная способность памяти.

Источник: Awesome Agents — NVIDIA RTX Spark

Не магическая кнопка, а десятки экспериментов

Павел Раваев, директор по данным RWB, сразу же в начале митапа отсекает главный миф об искусственном интеллекте.

«ИИ — это не какая-то магическая кнопка, на которую ты нажимаешь, и всё становится красиво и хорошо».

За каждым запуском стоят данные, сотни экспериментов и огромная инженерная работа.

Масштаб Wildberries заставляет относиться к ИИ без иллюзий. Миллионы пользователей, десятки миллионов заказов в день — улучшение какого-то процесса даже на пару процентов превращается в сложнейшую инженерную задачу. Поэтому главный принцип компании звучит максимально прагматично: «Мы не внедряем ИИ только ради ИИ. Сначала проблема, потом гипотеза, потом десятки экспериментов. Часть взлетает, часть откатываем».

И этот подход работает. ИИ в Wildberries уже давно вышел за рамки чат-ботов и модерации. Поиск и рекомендации превратились в сложные системы, учитывающие не только предпочтения пользователя, но и наличие товара на ближайшем складе, чтобы снизить логистические издержки.

Прогнозирование спроса и управление складскими операциями — то, что пользователь никогда не увидит, — экономят компании колоссальные деньги. Для селлеров работают инструменты генерации карточек товаров по фотографии и автоответы на отзывы. Только задумайтесь: ежедневно на WB оставляют около четырех миллионов отзывов и задают триста тысяч вопросов. Вручную это обрабатывать невозможно.

А еще Wildberries запускает автопереводы карточек товаров для других стран — руками это сделать невозможно из-за объемов.

Внутри компании ИИ тоже активно используется. У Wildberries есть, например, AI-агент DPO, который проверяет, что лежит в больших хранилищах данных. «Он заменил целый пласт ручной работы с разметкой. Мы его сделали, попробовали, отдали безопасникам — и теперь это работает в зоне их ответственности», — рассказывает Павел. А еще есть собственные кодинг-ассистенты, инструмент для автоматического ревью кода (им пользуются около 200 команд).

«Колесо сансары замкнулось — программисты разрабатывали ИИ, и он начал их заменять», — смеется Юрий Софронов, руководитель направления моделей и сервисов для ИИ-ассистентов в RWB.

Главный вывод, который делает Раваев, звучит так: ИИ в крупной компании нужен не ради инноваций. Он помогает выстроить интеграцию в тысячи уже работающих процессов и нагрузку, которую не выдержит ни один коробочный фреймворк.

Где заканчивается магия и начинается автоматизация

Первый технический блок митапа начался с неожиданного признания. Руководитель ML-платформы Даниил Понизов и MLOps-инженер Роман Лазовский из RWB рассказывали о внедрении AIOps-практик, но их главный вывод звучал почти издевательски: AI в AIOps-платформе оказался практически бесполезен.

Как это вообще могло случиться?

Проблема, которую они решали, знакома многим. В корпоративный чат падают тысячи алертов о недоутилизации ресурсов. Дежурные разбирают их вручную, но через неделю те же проблемы возвращаются. Кто-то берет десять GPU для обучения модели на десяти строчках данных, и никто не может этого предотвратить. В масштабах Wildberries с его тысячами ML-сервисов и сотнями владельцев ручные методы просто перестают работать.

Команда выбрала KeepHQ — единственную на тот момент open-source AIOps-платформу. Развернули, настроили интеграцию с Grafana, сделали бота в мессенджере, который ведет диалог с владельцами сервисов. Система дедуплицирует алерты (из почти 400 тысяч событий схлопывается 99%), обогащает их контекстом и автоматизирует рутину. Результат впечатляет: на одном из кластеров утилизация GPU выросла на 62%.

Ирония, которая стоит особняком

Когда платформа называется AIOps, ожидаешь, что искусственный интеллект будет играть в ней ключевую роль. На практике выяснилось, что в open-source версии KeepHQ AI-функции крайне ограничены. Встроенный LLM-провайдер из коробки не заработал — пришлось патчить ролевую модель. AI-ассистент для построения воркфлоу помогает генерировать YAML, но это просто ускоритель, а не интеллект.

«AIOps в нашем случае — это автоматизация мелких ручных действий, — резюмирует Даниил. — AI-фичи, доступные из коробки, нам пока не помогли. Мы уже разрабатываем отдельного AI-агента, который будет мониторить алерты из KeepHQ, а также обогащать их контекстом из других инструментов, чтобы автоматически заводить инциденты и открывать мердж-реквесты с предложениями по оптимизации ресурсов в сервисах».

Вывод, который стоит вынести из этого опыта: open-source решения для AIOps удобны, но будьте готовы патчить всё — от Python-степов до LLM-провайдеров. И главное — не ждите, что AI решит ваши проблемы с утилизацией. Сначала выстройте прозрачный процесс, а потом уже его автоматизируйте.

Хорошая модель не спасет: данные, код и железо решают всё

Юрий Софронов, руководитель направления моделей и сервисов для ИИ-ассистентов в RWB, разобрал самый опасный стереотип: заказчики думают, что если дать им «хорошую модель», всё заработает само. На самом деле LLM-продукт — это сложная система. Юрий выделяет как минимум три слоя: данные, код и железо, и без проработки каждого модель бесполезна.

«Никому не нужен чат-бот, который думает по 20 минут, — объясняет Юрий. — Модель без дополнительного контекста — это просто очень сложный вычислительный инструмент, который умеет генерировать токены и ничего не знает про ваш бизнес и вашего пользователя. Чтобы появился LLM-продукт, нужно воспринимать его как атомарную, неделимую сущность. Это огромный каскад и технических, и продуктовых решений».

Слой данных

История, которой Юрий поделился, наглядно иллюстрирует проблему. Задача: автоматически отвечать на вопросы покупателей. Источников информации много: описание товара, предыдущие вопросы к селлеру, тысячи отзывов. На некоторые товары на Wildberries их оставлено больше сотни тысяч. Даже в современную модель с контекстом на 120-250 тысяч токенов всё это не помещается.

Команда пробовала стандартные подходы. Добавлять все отзывы в контекст — не лезет. Векторный поиск — нет хороших датасетов и эмбеддеров, нерелевантные примеры убивают качество.

Сработал агент под названием «Водолаз». Он раз в сутки анализирует весь контент карточки — вопросы, отзывы, обсуждения — и извлекает из него факты, которых нет в официальном описании товара. «Подошва не скользит зимой», «хорошо держит тепло» — такие факты складываются в понятную для LLM key-value структуру и индексируются.

В результате удалось закрыть пять процентов вопросов, на которые раньше ответить не могли. Цифра кажется небольшой, но в масштабе WB это десятки тысяч автоматических ответов в день.

Вывод прост: не пытайтесь скормить LLM сырой контекст. Приведите данные в порядок до того, как отдадите их модели. LLM не чинит данные — она только усиливает существующий хаос.

Слой кода

Здесь Юрий был категоричен. Low-code инструменты типа LangChain — это зло для продакшна.

«Благодаря своей универсальности эти инструменты не оптимизированы. Разбирая реализацию LangChain, ты попадаешь в пять-семь слоев абстракций, неэффективно реализованные компоненты».

Где их можно использовать? Для прототипов, демо заказчику, тестирования на малой группе пользователей. Но определенно не в продакшне.

«Если кто-то в WB собирается запускать клиентские продукты на таких технологиях, как LangChain, я сильно протестую и готов всеми силами это остановить».

Альтернатива, по мнению Юрия, — разделить систему на прозрачные слои: API, роутер сценариев, сборщики контекста, саму LLM, пост-процессинг. И использовать vLLM или Triton вместо нативного PyTorch. Базовая интеграция без оптимизаций дает буст в 10–15 раз по сравнению с Transformers.

Живой пример из практики Wildberries: готовая к запуску продовая инфра с 48 GPU на end-to-end тестировании функционала в приложении показывает такие же метрики производительности, что и на 4 GPU. Производительность идентична, хотя разница в ресурсах в 12 раз! Причина оказалась не в GPU и не в модели, а в ingress-слое — стояли дефолтные лимиты на количество соединений, которые буферизовали ответы. Кодовая инфраструктура заруинила отличную GPU-инфраструктуру.

Слой железа

Самая недооцененная часть LLM-продуктов. Классический L7-балансировщик балансирует сетевой трафик, но сетевой запрос не равен нагрузке на GPU. Две одинаковые ноды с одной моделью могут отвечать с совершенно разной скоростью, одна может работать в штатном режиме, другая — зациклиться в генерациях или повлечь за собой ошибку на уровне железа. Что работает вместо этого:

• Token-aware routing — оцениваем количество токенов, не отправляем тяжелый запрос на загруженную ноду.
• KV-cache routing — используем уже посчитанный кэш на той же ноде, где он был. Трехкратный выигрыш по latency.
• Спекулятивный роутинг — кидаем запрос на две-три ноды, берем самый быстрый ответ. Ускоряет ответ на 15–25%, снижает 95-й перцентиль latency на 15%.

Когда ИИ — это переплата, а когда — полезный помощник

На панельной дискуссии встретились представители Альфа-Банка, Сбера, RWB, red_mad_robot.

Где ИИ не нужен

Самый частый ответ: если проблема решается эвристиками или регулярными выражениями, не нужно тащить LLM. В задачах кибербезопасности, например, многие пытаются применять большие языковые модели для фильтрации спама или борьбы с мошенничеством, но обычные классификаторы справляются с большинством задач намного лучше.

Красные флаги, которые заставляют команды отказываться от ИИ-решений, тоже довольно очевидны. Когда:

• заказчик требует стопроцентного качества — ИИ никогда его не даст.
• у заказчика нет понимания, как решать задачу, и он думает, что ИИ — это серебряная пуля, которая всё исправит.
• экономика не сходится — если стоимость защиты на базе ИИ выше, чем стоимость атаки и потенциального ущерба, смысла в таком решении нет.

Что важнее — модель или обвязка?

Последние полгода мировая тенденция, которую подтвердили все участники дискуссии, — переход от промпт-инжиниринга к систем-инжинирингу. Важно не то, как вы запросили модель, а какой контекст в нее попадает, как описаны инструменты, как работает оркестрация агента.

Агентные системы ценны не своей автономностью, а тем, что человек может их контролировать через бизнес-правила. Например, если вы даете агенту задание посчитать выручку за прошлую неделю, а в хранилище данных пять разных таблиц с выручкой и у каждой свой способ расчета, никакая модель не разберется без правильной обвязки и контекста, который раньше жил только в головах аналитиков.

Про деньги и веру

Честный разговор об экономике получился, пожалуй, самым интересным. Экономика LLM-проектов часто не сходится. Но есть нюансы.

Первый: стоимость инференса токенов падает с каждым месяцем. То, что не окупается сегодня, может окупиться через полгода или год. Второй, и, возможно, более важный: стоимость неделания часто выше, чем стоимость эксперимента.

«Когда вы начинаете делать пилот, вы выясняете кучу вещей, не связанных напрямую с ИИ. У вас могут быть не настроены права доступа или не готово DWH. Вы узнаете инсайты, которые можно применить и без ИИ. Компетенции дороже, чем небольшая переплата за видеокарты».

И еще один важный тезис, прозвучавший в дискуссии: немодные ниши часто приносят больше денег, чем хайповые продукты. Из неочевидных примеров — 1С. Огромное количество предприятий в России работают на этой платформе, но LLM плохо обучены ее коду. Анализ тендеров — огромные объемы текста, высокая цена ошибки, государственные закупки. Также есть множество недооцифрованных ниш: строительство, добыча ресурсов, промышленные заводы и машиностроение, где ИИ имеет еще низкое проникновение и потенциально высокий абсолютный экономический эффект. Даже единицы процентов повышения эффективности в таких нишах в абсолютном значении выражаются в десятках и сотнях миллионов рублей позитивного экономического эффекта.

Серебряной пули действительно не существует

Не существует «магической кнопки», на которую можно нажать, чтобы всё заработало. Не существует платформы, которая решит инфраструктурные проблемы своим AI. Как не существует и модели, которая исправит хаос в данных или плохую архитектуру.

Всё, что работает в промышленном ИИ, работает потому, что за этим стоит тяжелая, нехайповая инженерная работа. И в этом, наверное, главный урок Inside AI Meetup для тех, кто собирается внедрять ИИ завтра.

ИИ — это инструмент, а не религия. Он все еще не может заменить вкус, душу и человеческое понимание контекста.

«Я недавно читал статью в Vogue "Can AI Ever Crack Taste?", — вспоминает Юрий Софронов. — Единственное, чего сейчас нет у ИИ — это вкуса. Я иногда смотрю на сгенерированный текст или картинку и чувствую, что что-то не так. Человек здесь по-прежнему далеко впереди».

Возможно, через пять лет мы будем вспоминать эти слова с улыбкой. А возможно с благодарностью за то, что кто-то вовремя сказал правду.

Мы собрали актуальный список облачных GPU-сервисов на 2026 год. Изучили доступные архитектуры, реальную производительность и особенности биллинга разных платформ.

Ниже разбираем железо: под какие сценарии подходят конкретные конфигурации, как устроено управление средой и на чём можно оптимизировать косты при развёртывании инфраструктуры.

IaaS-платформа с иммерсионным охлаждением immers.cloud

В immers.cloud можно арендовать виртуальные машины и bare metal-серверы под ресурсоемкие задачи. Сервис ориентируется на обучение нейросетей, работу с LLM, инференс, 3D-рендеринг, обработку видео и сценарии, где локального железа уже мало, а покупать собственный парк серверов пока рано.

Инфраструктура размещена в Москве, в дата-центре уровня Tier-III. Базовый формат работы здесь классический для IaaS: пользователь поднимает ВМ или выделенный сервер и дальше сам собирает нужную среду под свою задачу.

Какие GPU доступны

У платформы собран пул из 13 моделей видеокарт NVIDIA под разные нагрузки. Для ML-задач с большим потреблением памяти доступны H200 на 141 ГБ и H200 на 141 ГБ с NVLink, H100 на 80 ГБ и на 94GB с NVLink, A100 на 80 ГБ и Tesla V100 на 32 ГБ. Отдельно отметим, пожалуй, H100 и A100 с поддержкой GPUDirect и NVLink. Для задач, где нужен быстрый обмен данными между ускорителями, это полезная штука.

Если речь идет о небольших моделях, агентных сценариях или более легком инференсе, доступны Tesla T4 на 16 ГБ, A2 на 16 ГБ, A10 на 24 ГБ и RTX 3080 на 10 ГБ. Для рендеринга, графических задач и смешанных вычислений можно арендовать RTX 2080 Ti на 11 ГБ, RTX 3090 на 24 ГБ, RTX A5000 на 24 ГБ, RTX 4090 на 24 ГБ или RTX 5090 на 32 ГБ.

Под какие сценарии подходит, как используют

Платформу чаще используют под конкретные инфраструктурные задачи, бюджет и этап разработки. Самые популярные примеры:

1. Если ML-стартапу нужно развернуть MVP или проверить гипотезу, нет смысла сразу брать флагманы. Под пилоты обычно поднимают инстансы среднего ценового сегмента — например, с RTX 3090, RTX 4090 или Tesla V100. Стенд обходится в 65–100 ₽ за час работы и позволяет тестировать модели без капитальных затрат на железо.
2. Для R&D-команд, которые занимаются файн-тюнингом и обучением LLM, критичен объем видеопамяти. Адаптация предобученных моделей (в том числе через подготовку LoRA) уходит на тяжелые конфигурации с H200, H100 или A100.
3. Когда модель готова, её выносят в продакшн для стабильного инференса по API. Здесь выбор железа зависит от аппетитов самой нейросети: легкие модели и агенты спокойно крутятся на Tesla T4 или A10 (от 20 до 40 ₽/час), а высоконагруженные сервисы с крупными LLM забирают мощности с A100.
4. Для потоковой обработки видео, задач компьютерного зрения и 3D-рендеринга собирают стенды на профессиональных картах вроде RTX A5000 или топовых RTX 5090.

Как устроена инфраструктура и экосистема

ML-команды больше не упираются в доступность GPU на рынке, они упираются в то, сколько стоит время экспериментов и насколько быстро можно масштабировать обучение и инференс без потери контроля над инфраструктурой.

Технически платформа immers.cloud — это инфраструктурный слой на базе OpenStack. Здесь пока нет управляемого Kubernetes-сервиса, а вся работа строится вокруг виртуальных машин. С одной стороны, придется собирать окружение на ВМ самостоятельно. С другой — это дает понятную модель управления, где можно поднимать ресурсы строго под свою сборку и не бороться с абстракциями, которые навязывает провайдер.

Чтобы снять часть рутины с настройкой среды, есть маркетплейс готовых образов. Там лежат преднастроенные шаблоны с CUDA, PyTorch, TensorFlow и Jupyter.

Отдельно развернут Immers Foundation Models — каталог моделей, который закрывает сразу два этапа разработки: от выбора модели до первого запуска. Для прототипирования и проверки гипотез доступны бесплатные публичные эндпоинты. Инженер просто прокидывает токен и адрес модели в код, собирает MVP и тестирует логику продукта без затрат на инфраструктуру.

Когда сервис протестирован и готов к нагрузкам, команда переезжает на выделенные мощности. Для этого в каталоге предусмотрен запуск нужной модели «одной кнопкой». Система сама оценивает требования к VRAM и разворачивает подходящую GPU-конфигурацию.

Каталог сокращает путь и делает проще запуск: инженеру не нужно вручную проверять совместимость, подбирать GPU-конфигурацию и оценивать требования к VRAM под разные сценарии инференса. Вместо разных репозиториев и документации команда получает готовую точку входа для быстрого тестирования моделей, оценки стоимости запуска и развёртывания собственного inference-стека.

Для работы с датасетами и промежуточными артефактами к платформе подключено S3-совместимое объектное хранилище, за которое сейчас не берут плату.

Автоматизация и DevOps

Инфраструктуру можно поднимать не только руками через веб-консоль, но и встраивать в привычный инженерный контур. У сервиса есть CLI через openstack-client и Terraform-провайдер OpenStack. Managed Kubernetes находится в разработке, поэтому оркестрация контейнеров из коробки пока недоступна.

Тарификация

У платформы собран пул из 13 моделей видеокарт NVIDIA под разные нагрузки. Для ML-задач с большим потреблением памяти доступны H200 на 141 ГБ и H200 на 41 ГБ с NVLink, H100 на 80 ГБ и на 94GB с NVLink, A100 на 80 ГБ и Tesla V100 на 32 ГБ. Отдельно отметим, пожалуй, H100 и A100 с поддержкой GPUDirect и NVLink. Для задач, где нужен быстрый обмен данными между ускорителями, это полезная штука.

Если речь идет о небольших моделях, агентных сценариях или более легком инференсе, доступны Tesla T4 на 16 ГБ, A2 на 16 ГБ, A10 на 24 ГБ и RTX 3080 на 10 ГБ. Для рендеринга, графических задач и смешанных вычислений можно арендовать RTX 2080 Ti на 11 ГБ, RTX 3090 на 24 ГБ, RTX A5000 на 24 ГБ, RTX 4090 на 24 ГБ или RTX 5090 на 32 ГБ.

На платформе действует посекундная тарификация — оплата списывается только за фактическое время работы инстанса. Прерываемых (spot) машин нет.

Самая доступная конфигурация собирается на Tesla T4 16 ГБ (шаблон teslat4-1.4.8.60). Вместе с 4 vCPU, 8 ГБ RAM и сетью она обходится в 19,93 ₽ за час работы.

Стоимость других младших инстансов за час: A2 — 21,94 ₽, RTX 2080 Ti — 25,05 ₽, A10 — 36,55 ₽, RTX 3080 — 42,96 ₽.

Средний сегмент за час аренды: RTX 3090 — 66,76 ₽, RTX 4090 — 82,76 ₽, Tesla V100 — 96,61 ₽, RTX A5000 — 109,77 ₽, RTX 5090 — 130,76 ₽.

Тяжелые конфигурации в час: A100 — 211,77 ₽, H100 — 341,77 ₽, H100 NVL — 367,41 ₽, H200 — 423,04 ₽.

Для долгосрочных заказов предусмотрена скидка от 10 до 50%, а списания при таком формате происходят раз в сутки.

Особенности железа

Ключевая особенность площадки — использование иммерсионного охлаждения. Серверное оборудование полностью погружается в диэлектрическую жидкость. Это помогает держать стабильно низкую температуру GPU, исключает риск троттлинга и сохраняет производительность на длинных сессиях с высокой нагрузкой. Провайдер первым в России внедрил технологию виртуализации для этих графических процессоров.

Ограничения и безопасность

Формат работы на платформе подойдет инженерам, которые умеют собирать окружение на ВМ и работать с OpenStack-логикой. Полноценной managed ML-платформы и онбординга для ML-команд здесь нет.

Инфраструктура имеет сертификат ГОСТ Р ИСО/МЭК 27001-2021 по системам менеджмента информационной безопасности, но не соответствует требованиям 152-ФЗ. Это стоит учитывать при работе с персональными данными.

Поддержка и условия работы

Вся базовая документация собрана в подробном FAQ на русском языке. Техническая поддержка отвечает в течение 20 минут через чат на сайте, Telegram, Max или email.

Юрлицам доступна работа по договору, предоставление закрывающих документов и постоплата. Для новых клиентов предусмотрен триальный баланс на проверку гипотез и первый прогон пайплайнов.

Инфраструктура для high-load и ML-проектов ITGLOBAL.COM

На ITGLOBAL.COM разворачивают GPU-инфраструктуру для машинного обучения, высокопроизводительных вычислений (HPC), рендеринга и сложной аналитики. Форматов несколько: классические облачные инстансы, выделенные серверы, гибридные схемы и аренда суперкомпьютера на базе NVIDIA HGX. Платформа заточена под команды, которым нужны серьезные мощности Enterprise-уровня без капитальных затрат на закупку собственного железа.

Какие GPU доступны

В пуле провайдера стоят актуальные корпоративные решения. Главная техническая фича — поддержка vGPU. Физическую видеокарту можно делить между несколькими виртуальными машинами — части изолированы друг от друга, так что данные одной ВМ недоступны другим. Теперь ресурсы масштабируются только под задачу, а команда не переплачивает за ненужные мощности.

Например, NVIDIA RTX Pro 6000 Blackwell Server Edition на 96 ГБ можно нарезать на профили по 12, 24, 48 ГБ или забрать все 96 ГБ под одну ВМ. Для более тяжелых задач доступны инстансы с H200 на 141 ГБ и флагманские B300 на 288 ГБ.

Также в пуле есть A100 и A800 (по 80 ГБ), L40S на 48 ГБ, серверы с NVIDIA A16 (четыре чипа по 16 ГБ) и ускорители Sophgo SC7 HP75. Мощности Enterprise-уровня всегда держат в наличии под высоконагруженные проекты.

География и форматы размещения

Инфраструктура ITGLOBAL.COM размещена в Москве, Минске, Алматы, Ташкенте, Шэньчжэне, Амстердаме, Торонто, Нью-Джерси, Дубае и Сан-Паулу. Если проект требует строго локального размещения или интеграции с внутренним контуром безопасности, провайдер может выдать инфраструктуру с GPU прямо на площадку клиента.

Под какие задачи подходит

Ресурсы забирают под разные этапы для работы с данными. Команды Data Science обучают модели скоринга, прогнозирования оттока или рекомендательные алгоритмы на NVIDIA H200 и NVIDIA RTX PRO 6000 Blackwell Server Edition хорошо тянут видеоаналитику и Computer Vision для промышленных и логистических объектов, где нужно анализировать плотные видеопотоки.

Если речь идет про инференс LLM или запуск AI-приложений в high-load сценариях, инженеры обычно поднимают ресурсы уровня NVIDIA HGX H200 или кластеры NVIDIA HGX B300. Ограничений на фреймворки, оркестраторы или объем данных со стороны платформы нет. Клиент получает IaaS с полным контролем над средой, упираясь только в архитектурные лимиты самих чипов NVIDIA и поддерживаемые драйверы.

Как устроена инфраструктура и экосистема

Для управления ресурсами доступны API, CLI и возможность использования terraform провайдера, поэтому поднимать и гасить инстансы можно программно. Преднастроенные стеки с CUDA, PyTorch, TensorFlow или Jupyter собираются и уточняются на старте под конкретный проект. Для команд, которые хотят снять с себя часть инфраструктурной рутины, доступен Managed Kubernetes и управляемая ML-платформа.

Для хранения объемных датасетов и работы с данными предусмотрен отдельный S3-совместимый сервис объектного хранилища.

Тарификация и условия

Жесткой публичной сетки тарифов за час здесь нет — провайдер работает по проектному ценообразованию. Итоговый чек зависит от модели GPU, конфигурации, сроков аренды и формата размещения. Прерываемых (spot) инстансов не предусмотрено, зато для долгосрочных и крупных проектов действуют индивидуальные скидки.

Пользователь сам управляет ресурсами и может собрать нужную конфигурацию. Рекомендуемая минимальная сборка включает 12 ГБ vGPU, 4 vCPU и 16 ГБ оперативной памяти. При необходимости параметры можно ужать до базового минимума: 12 ГБ vGPU, один vCPU (Xeon 2.8 ГГц), гигабайт RAM и гигабайт быстрого SSD (с возможностью добавить HDD).

Оплата для юрлиц по умолчанию идет в формате постоплаты по договору с предоставлением всех закрывающих документов. Для тестирования гипотез новым клиентам открывают триальный период.

Безопасность и соответствие

Облако имеет аттестат соответствия требованиям 152-ФЗ. Также компания обладает сертификатами ФСТЭК и ФСБ. Все лицензии и документы выложены в открытом доступе на сайте.

Поддержка и документация

Влиться в работу помогает пресейл-команда: инженеры проводят проектный онбординг и помогают собрать нужную конфигурацию под конкретные ML-задачи. Техническая документация полностью доступна на русском языке.

Первичные запросы обрабатывают в течение двух часов. Оставить заявку можно через сайт, почту sales@itglobal.com, по телефону +7 812 439 18 72 или через Telegram-бота. Действующие клиенты решают вопросы через личного менеджера, клиентский портал, облачную панель или выделенную почту support@itglobal.com.

Кастомные GPU-серверы и Managed-сервисы от Selectel

В Selectel можно арендовать облачные инстансы и bare-metal серверы под ML-задачи, инференс, работу с графикой и сложные вычисления. Провайдер дает возможность гибко собрать нужную инфраструктуру: от быстрой аренды облачной ВМ на час до сборки кастомных физических серверов на базе процессоров Intel Xeon Scalable и AMD EPYC.

Базовый формат работы здесь строится вокруг классических серверов, но платформа позволяет объединять разные сервисы провайдера в сложную инфраструктуру и делегировать администрирование части слоев (например, баз данных).

Какие GPU доступны

У платформы собран широкий пул профессиональных и консьюмерских видеокарт NVIDIA под разные нагрузки. Для тяжелых ML-задач доступны NVIDIA A100 (в том числе в конфигурации на 40 ГБ) и NVIDIA V100. Из свежего железа в пуле есть NVIDIA A30.

Если речь идет о небольших моделях, агентных сценариях или более легком инференсе, доступны Tesla T4, A2 и консьюмерская линейка — GTX 1080, RTX 2080 Ti и RTX 4090. Для рендеринга, графических задач и рабочих станций VDI можно арендовать профессиональные RTX A2000, A4000 и A5000.

Под какие сценарии подходит, как используют

Платформу чаще используют под конкретные инфраструктурные задачи и этапы разработки:

Для R&D-команд, которые занимаются машинным обучением, файн-тюнингом и глубоким обучением (Deep Learning), берут тяжелые конфигурации с A100 или A30. Мощности позволяют быстро обучать нейросети под классификацию изображений, распознавание речи (face recognition) и проверку на фрод.

Когда модель готова, её выносят в продакшн для стабильного инференса. Под такие задачи и алгоритмы машинного обучения собирают стенды на видеокартах нужного объема.

Отдельный пласт задач — транскодинг видео и работа с графикой. На серверах с GPU разворачивают среды для стриминга (с поддержкой NVIDIA NVENC и разрешением до 8192×8192), 3D-моделирования, видеомонтажа онлайн и развертывания удаленных рабочих мест (VDI). Также инфраструктуру применяют для научного моделирования и сложных параллельных CUDA-вычислений в инженерии, физике и математике.

Как устроена инфраструктура и экосистема

Инженерам не нужно долго ждать железо: облачные серверы с GPU поднимаются меньше чем за минуту, а физические выделенные серверы — от двух минут. Вы можете собрать сервер под свои задачи в конфигураторе или выбрать готовую к запуску сборку.

Для тех, кто не хочет возиться с голой инфраструктурой, у Selectel есть готовые PaaS-решения. В первую очередь это Managed Kubernetes — он упрощает развертывание контейнеров, масштабирование, настройку микросервисной архитектуры и CI/CD пайплайнов (от 5 958 ₽/мес). Также провайдер берет на себя администрирование облачных баз данных вроде PostgreSQL и Timescale.

Для работы с датасетами, весами и бэкапами к платформе подключается S3-совместимое объектное хранилище (от 0,81 ₽/мес) с тройной репликацией данных. Для сложной инфраструктуры можно использовать файловое хранилище (от 138 ₽/мес) и объединять локальные и облачные сети через глобальный роутер или Direct Connect.

Автоматизация и DevOps

Инфраструктуру можно поднимать не только руками через панель управления Selectel, но и встраивать в инженерный контур с помощью API.

Тарификация

Аренда доступна на гибких условиях: серверы можно брать на час, день или месяц. Точная стоимость зависит от выбранной конфигурации и типа аренды (облако или выделенный сервер). Для облачных решений есть оплата только за потребленные ресурсы.

Ограничения и безопасность

Selectel делает сильный упор на защиту данных. Серверы соответствуют требованиям 152-ФЗ до первого уровня защищенности. Инфраструктура имеет сертификат PCI DSS, ISO 27001, аттестаты ГИС К1 и СТР-К 1Г. Это значит, что на серверах можно хранить чувствительные персональные данные, медицинскую информацию и данные платежных карт.

Дополнительно в Selectel работает IAM-система для разграничения доступов и ролей, которую можно связать с внутренним SSO. Все проекты бесплатно получают базовую защиту от DDoS-атак на уровнях L3 и L4. Если нужна защита серьезнее, можно подключить фильтрацию трафика на уровне приложений L7 (от 2 600 ₽/мес).

Глобальная GPU-инфраструктура и гранты на тесты от Timeweb Cloud

На Timeweb Cloud можно арендовать облачные и выделенные серверы под параллельные вычисления: машинное обучение, аналитику бигдаты, 3D-рендеринг, IoT и гейминг. Инфраструктура развернута в дата-центрах уровня Tier III в России, СНГ, Европе и США. Провайдер делает ставку на быстрый старт — облачные инстансы поднимаются за пару минут, а вычислительные ресурсы можно быстро масштабировать.

Какие GPU доступны

Вычислительный парк провайдера построен исключительно на графических процессорах NVIDIA. Под тяжелые AI-вычисления, работу с бигдатой и профессиональное ПО предоставляются серверы с GPU серии A: A2, A30, A2000, A4000, A5000 и A6000. Для виртуализации и ML-сценариев в облаке доступна Tesla T4.

Для гейминга, стриминга и рендеринга можно арендовать серверы на базе GeForce GTX (1080 DDR5X, 1080 Ti) или RTX с поддержкой тензорных и рейтрейсинг-ядер (2080 Ti, 3080, 3090, 4090).

Топовые корпоративные ускорители под крупные модели — Tesla H200 (141 ГБ), H100 (80 ГБ), A100 (80 ГБ) и L4 (24 ГБ) — пока предоставляются в формате предзаказа.

Под какие сценарии подходит, как используют

Платформу применяют под конкретные инфраструктурные задачи и этапы разработки:

Для ИИ и машинного обучения берут инстансы под обучение нейросетей, deep learning, сборку рекомендательных систем, чат-ботов и распознавание речи и изображений. Здесь в ход идут карточки Tesla T4 и решения серии A.

Для 3D-моделирования, анимации, архитектурного дизайна и трансляции игрового процесса в реальном времени собирают стенды на консьюмерских RTX или профессиональных видеокартах. Они закрывают потребности в рендеринге сложной графики без закупки собственных дорогих рабочих станций.

Отдельный пласт задач — научные вычисления и аналитика бигдаты. Мощности арендуют под прогноз климата, изучение генома, моделирование физических процессов и обработку данных с IoT-устройств (беспилотного транспорта, умных домов, производственных конвейеров).

Как устроена инфраструктура и экосистема

Архитектура облака построена с тройным региононезависимым резервированием. Это собственная разработка провайдера, которая снижает риск потери данных при локальных сбоях.

Помимо ВМ, в экосистему входят Managed-сервисы. Для оркестрации контейнеров можно развернуть Managed Kubernetes. Для хранения весов моделей и датасетов есть S3-совместимое объектное хранилище и облачные базы данных. Также в пуле сервисов доступны балансировщики нагрузки и маркетплейс. Если команда не хочет тратить время на перенос инфраструктуры, инженеры провайдера берут миграцию данных на себя.

Автоматизация и DevOps

Управлять ресурсами можно через веб-панель или программно, встраивая запуск в инженерный пайплайн. Для этого доступны классические инструменты автоматизации: API, CLI, Terraform и Cloud-init.

Тарификация

Тарифы формируются за месяц, но оплата работает по часовой модели — деньги списываются раз в час за реально потребленное время. В любой момент можно добавить процессоры (vCPU), оперативную память (RAM) или диски без простоя системы.

Для проверки гипотез и тестирования среды предусмотрен грант до 1 000 000 ₽ на срок до шести месяцев. Это позволяет обкатать архитектуру перед финальным решением о переезде.

Ограничения и безопасность

Особенность площадки — широкая география присутствия. Дата-центры стоят в Москве, Санкт-Петербурге, Сибири, Казахстане, Нидерландах, Германии, Турции, Финляндии и Нью-Йорке.

Платформа включена в Единый реестр российского ПО, соответствует требованиям 152-ФЗ, международного стандарта PCI DSS и ISO. Облако по умолчанию защищено от DDoS-атак, при необходимости фильтрацию можно точечно усилить на уровнях L3, L4 и L7.

Поддержка и условия работы

Техническая поддержка работает в режиме 24×7×365. Для проектов с бюджетом от 50 000 ₽ в месяц включается премиум-обслуживание: прямая связь с топ-менеджментом (CEO, CTO), ответы в режиме ASAP, возможность овердрафта и повышенные скидки.

Виртуальные серверы с GPU для машинного обучения от Cloud4Y

В Cloud4Y можно арендовать облачные GPU-серверы с видеокартами NVIDIA. Инфраструктура заточена под машинное обучение (ML), искусственный интеллект (AI), параллельные вычисления, работу с большими данными и 3D-графикой. Виртуальные инстансы помогают командам ускорить обработку датасетов и тренировку нейронных сетей без закупки собственного железа.

Какие GPU доступны

Cloud4Y делает ставку на проверенные корпоративные решения. Для машинного обучения, работы с графикой и высокопроизводительных вычислений (HPC) платформа предлагает видеокарты NVIDIA Tesla V100 и NVIDIA Tesla P100.

Ресурсы предоставляются по модели vGPU. Доступны конфигурации с разным объемом видеопамяти под конкретные задачи — например, P100 с 8 ГБ или 16 ГБ, а также V100 с 1 ГБ или 2 ГБ видеопамяти на борту.

Под какие сценарии подходит, как используют

Платформу применяют под ресурсоемкие задачи, где мощностей центрального процессора уже не хватает. Графические процессоры увеличивают скорость вычислений до 8 раз по сравнению с CPU.

Для задач Data Science и обучения нейросетей (Deep Learning) мощности берут под сборку алгоритмов и анализ больших массивов данных. Инстансы можно использовать для разработки приложений виртуальной и дополненной реальности, а также для параллельных вычислений на базе архитектуры CUDA.

Отдельный сценарий — 3D-графика, транскодинг видео и рендеринг. Для этих задач на облачных серверах поднимают удаленные рабочие столы по технологии VDI (Virtual Desktop Infrastructure). Ресурсы vGPU равномерно распределяются между сессиями пользователей, а доступ к рабочему месту с графикой идет через стандартный RDP-клиент.

Как устроена инфраструктура и экосистема

Чтобы сократить время от аренды до первого запуска модели, у Cloud4Y есть готовые образы — DSVM (Data Science Virtual Machine). Серверы разворачиваются с уже предустановленными пакетами приложений: PyTorch, TensorFlow, Keras, XGBoost, Scikit-learn, OpenCV и Jupyter Notebooks.

Также из коробки доступны библиотеки NumPy и Pandas для ускорения процесса обучения. Для сложной оркестрации ML-процессов провайдер может развернуть готовый шаблон с Kubeflow.

В экосистему платформы входит S3-совместимое объектное хранилище, облачные базы данных и сервис Managed Kubernetes. Для надежности предусмотрено резервное копирование в облако и услуга Disaster Recovery (аварийное восстановление).

Тарификация

Арендовать графические мощности можно с почасовым или помесячным биллингом. Расчет стоимости по итогу месяца идет с округлением до целых единиц в большую сторону. Сама услуга vGPU приобретается как дополнение к базовой IaaS-инфраструктуре (облачному серверу). Бесплатно предоставляется интернет-канал на 100 Mbps с возможностью расширения до 1 Гбит/с.

Стоимость зависит от выделенного объема видеопамяти и ресурсов сервера:

• Базовый вариант для VDI и графики (NVIDIA GRID P100 ML vGPU) начинается от 3,39 ₽ за час.
• Конфигурация под вычисления с V100 1 Gb (6 vCPU, 64 RAM, 120 SSD) обойдется от 25 ₽ за час.
• Инстанс с P100 8 Gb (4 vCPU, 32 RAM, 120 SSD) стоит от 24,5 ₽ за час.
• Более тяжелая сборка с P100 16 Gb (16 vCPU, 64 RAM, 120 SSD) тарифицируется от 46 ₽ за час.

Аренда облачного железа позволяет сократить расходы на оборудование до 70%. Если текущих конфигураций недостаточно, провайдер может собрать GPU-сервер по индивидуальному запросу.

Поддержка и условия работы

Доступ к графическим ресурсам и серверам возможен круглосуточно из любой точки мира. Для тестирования гипотез новым клиентам предоставляют бесплатный тестовый доступ.

Рынок облачных вычислений отошел от простой гонки за самую дешевую видеокарту. Сейчас команды выбирают инфраструктуру, отталкиваясь от стоимости времени инженеров и этапа развития продукта.

Если проект находится на стадии проверки гипотез и вам нужно быстро добежать до инференса без возни с настройкой окружения, логично смотреть в сторону площадок вроде immers.cloud. Там фокус смещен на снятие рутины через готовые хабы моделей и стабильную работу железа под нагрузкой. Когда же продукт обрастает энтерпрайз-требованиями и требует развертывания тяжелых кластеров с прицелом на глобальный рынок, инфраструктурный подход меняется, и здесь можно посмотреть в сторону решений ITGLOBAL.COM.

Когда выбираете провайдера, считайте не только цену за час аренды GPU. Смотрите на время, которое команда тратит на поднятие среды и поддержку узлов. Правильное облако должно ускорять релизы, а не подкидывать девопсам новые таски в бэклог.

Selectel, крупнейший независимый провайдер IT-инфраструктуры в России (более 33 000 клиентов, 17 лет на рынке), на этой конференции не только анонсировал новые продукты, но и предложил системный взгляд на то, как строить AI-инфраструктуру, чтобы она работала на бизнес, а не против него.

Главные анонсы Selectel: новый AI-сервер и развитие платформы

Первый и, пожалуй, ожидаемый анонс — новый высокопроизводительный AI-сервер Selectel. Решение разработано с акцентом на сбалансированную архитектуру. Сервер представляет собой 8U-платформу с собственной материнской платой, поддержкой двух процессоров Intel Xeon 6 (до 144 ядер) и возможностью установки до 8 ТБ оперативной памяти DDR5. Ключевая особенность — до 16 графических ускорителей на ноду и продуманная топология PCI-линий, минимизирующая задержки при передаче данных между CPU, памятью и GPU.

«Новая аппаратная платформа обеспечит стабильную, быструю и предсказуемую работу AI-моделей в реальных условиях с полным контролем над данными и производительностью», — прокомментировал Дмитрий Шиченко, руководитель отдела разработки встроенных систем Selectel.

Второй важный анонс касается AI-платформы Selectel. Обновлённый Foundation Models Catalog переведён в публичный статус и теперь доступен всем клиентам. Каталог позволяет разворачивать LLM на выделенной инфраструктуре с поддержкой автомасштабирования, получать логи и метрики инференса (observability), управлять сервисами через REST API. В качестве основного движка инференса используется vLLM — высокопроизводительный open-source фреймворк, увеличивающий производительность без роста затрат.

В каталог уже добавлены модели IBM Granite, Alibaba Qwen, DeepSeek, Microsoft Phi, Mistral AI, а в ближайшее время появятся Kimi, GLM, Gemma, Whisper и другие. Оплата сейчас идёт за фактические вычислительные ресурсы, а в ближайшее время станет доступна тарификация по токенам.

«Наша задача — обеспечить компаниям быстрый переход от экспериментов с AI к экономически эффективному применению. Мы предоставляем не просто "железо", а комплексный набор решений — от серверов c GPU до платформенных продуктов, закрывающих задачи пилотных проектов и промышленной эксплуатации», — отметил Александр Тугов, директор AI-вертикали Selectel.

Единое окно для внедрения ИИ-агентов

Ещё одно важное событие конференции — начало сотрудничества Selectel с российским вендором Data Sapience и консалтинговой группой GlowByte. Партнёры объявили о создании комплексных решений для корпоративных заказчиков: от бизнес-задачи до промышленной эксплуатации ИИ-агентов и больших языковых моделей.

В рамках партнёрства Selectel подтвердил технологическую совместимость инфраструктуры с платформой Kolmogorov AI от Data Sapience, которая обеспечивает полный цикл работы с моделями — от подготовки данных до мониторинга и оркестрации в промышленном контуре. Selectel предоставляет гибкую инфраструктуру (публичное и частное облако, аренду выделенных серверов, размещение GPU на площадке клиента, в том числе в аттестованных сегментах ЦОД), а GlowByte выступает интеграционным партнёром: консалтинг, архитектура, дообучение моделей и сопровождение.

Такой подход позволяет компаниям получать end‑to‑end предложение «из одного окна», сокращая время от пилота до реального внедрения и обеспечивая соответствие регуляторным требованиям. Решения ориентированы на автоматизацию сложных процессов, поддержку принятия решений, анализ больших данных и построение приватных ИИ-сред в условиях строгой безопасности.

«В партнёрстве с Data Sapience и GlowByte мы объединяем экспертизу инфраструктурного провайдера, вендора платформенных решений и консалтинговой компании, чтобы упростить компаниям путь к эффективному внедрению ИИ», — прокомментировал Александр Тугов.

Экосистема вокруг платформы: что обсуждали на техническом треке

Кроме докладов команды Selectel, на техническом треке выступили эксперты из других компаний. Своим опытом поделились:

• Антон Алексеев, MLOps-инженер AvitoTech рассказывал о построении централизованной ML-платформы;
• Владислав Шевченко, CTO red_mad_robot рассказывал про кризис SDLC и объяснял, почему нельзя просто написать код и ждать результата;
• Максим Пантелеев, руководитель направления Core M&D. Wildberries & Russ поделился последними результатами исследования интерпретируемости LLM по мотивам участия в сообществах и опыта работы над проектами red- и blue-teaming LLM.

Программа технического трека подтвердила главный тренд: ИИ-инфраструктура и платформенный подход становятся сквозной темой для разных отраслей.

Почему AI-инфраструктура — это не просто GPU

AI-инфраструктура не исчерпывается графическими ускорителями. В реальном пайплайне инференса LLM нагрузка распределяется между сетевыми картами, оперативной памятью, CPU (пред- и постобработка, токенизация, формирование батчей), PCI-шиной и только потом — GPU. Каждый этап может стать узким горлышком.

«Просто взять графический ускоритель и запустить на нём модель — это как поехать на болиде Формулы-1 по гравию. Двигатель мощный, но быстрее не станет», — пояснил Дмитрий Шиченко.

Именно поэтому при разработке нового AI-сервера в Selectel сделали упор на баланс ресурсов: процессоры последнего поколения с высокими частотами, 4 ТБ оперативной памяти на частоте 6400 МТ/с, высокоскоростные интерконнекты (до 128 ГБ/с между CPU и GPU, до 900 ГБ/с между GPU через NVLink). И топологию материнской платы с детерминированной архитектурой PCI-линий.

«Привычный закон Мура для AI больше не работает. У нас теперь закон Хуанга: GPU морально устаревают за 2 года, а не за 5–7. Амортизировать серверное железо по старым правилам — значит гарантированно проиграть по TCO», — считает Владислав Кирпинский, директор по облачной интеграции Selectel.

Как выглядит эффективный инференс на реальных задачах

Технические результаты наглядно показывают, что даёт сбалансированная архитектура.

Сценарий 1.

• Модель на 400 млрд параметров (Qwen 3.5), длинный контекст, сотни одновременных пользователей.
• Конфигурация: 8 × H100, 112 ядер CPU, 512 ГБ RAM.
  
• Результат: 500 токенов в секунду.
  

«При 150 токенах в секунду нейросеть уже отвечает быстрее, чем человек читает. А 500 токенов — это инференс с большим запасом для реальных Enterprise-нагрузок», поясняет Дмитрий Шиченко, руководитель отдела разработки встроенных систем Selectel.

Сценарий 2.

• Модель на 1 трлн параметров (Kimi k2, Mixture of Experts), ещё более длинный контекст, до 1000 пользователей.
• Конфигурация: RTX 6000 Pro Server Edition (увеличенный объём VRAM), 2 ТБ RAM.
  
• Результат: 150 токенов в секунду — более чем достаточно для диалоговых систем и ассистентов.
  

Итоги: AI-инфраструктура как стратегический актив

Конференция «MLечный путь» наглядно показала: рынок AI в России перешёл от экспериментов к промышленному внедрению. Но бизнес сталкивается с системными барьерами — от выбора правильного железа до построения платформ, которые позволяют масштабировать успешные пилоты.

Selectel на этом фоне предлагает комплексную историю:

• Инфраструктура — собственные сбалансированные AI-серверы, широкая линейка GPU (от потребительских до enterprise), гибкие модели потребления (BareMetal, облако, аренда на площадке клиента, гибрид).
• Платформа — Foundation Models Catalog в публичном доступе, observability, API‑управление, поддержка vLLM.
• Экспертиза — собственные инженеры, разработка серверов и материнских плат, независимость от поставщиков.
• Развитие направления партнерств с ведущими российскими AI-вендорами, обладающими экспертизой для решения отраслевых и специализированных бизнес-кейсов.
  

Как отметил один из спикеров конференции: «GPU без платформы — это кирка без рудника». Selectel же предлагает и кирку, и рудник, и карту местности. Для Enterprise это означает снижение рисков, предсказуемое TCO и возможность сфокусироваться на бизнес‑результатах, а не на том, почему инференс тормозит или почему GPU не окупаются за 5 лет.

AI‑инфраструктура перестаёт быть историей про «купить железо». Она становится историей про управляемость, экономику и скорость изменений. Именно этот переход — от GPU к платформе — стал главным итогом «MLечного пути».

Альтернативой выступают гибридные архитектуры, в которых традиционное внимание чередуется с более экономичными механизмами: Mamba‑2, Gated DeltaNet. Разработчики этих моделей заявляют о радикальном снижении потребления памяти и повышении пропускной способности без потери качества. В данном материале рассматриваются три открытые гибридные модели — NVIDIA Nemotron‑Nano‑9B‑v2, Bamba‑9B‑v2 (IBM) и Qwen3.5‑9B (Alibaba) — и сравниваются с референсной плотной моделью Llama 3.1 8B.

Методика моделирования

Моделирование проводилось для одного ускорителя NVIDIA H200 с 141 ГБ видеопамяти при типичной нагрузке: 4096 входных токенов и до 256 выходных. Рассчитывались следующие метрики: память на один экземпляр с учётом весов, оверхеда и KV‑кеша (Instance VRAM); полное время ответа (E2E Latency); пропускная способность одного экземпляра в запросах в секунду (RPS per replica); требуемый объём памяти на единицу пропускной способности (VRAM/RPS); максимальное число параллельных запросов, ограниченное исключительно памятью. Расчёты верифицировались с помощью расширенного симулятора InferSim и по данным публичных бенчмарков.

Результаты

Особенности производительности моделей

Разница на порядок по KV-cashe у Nemotron обусловлена архитектурой. Модель содержит 56 слоёв, из которых лишь четыре используют полноценное внимание с KV‑кешем, а остальные 52 — сверхбыстрые Mamba‑2‑блоки. Mamba‑2 работает как рекуррентная сеть: вместо хранения растущей таблицы ключей и значений для каждого токена она обновляет компактное скрытое состояние фиксированного размера. В результате для запроса длиной 4096 + 256 токенов KV‑кеш Nemotron занимает около 68 МБ — примерно в восемь раз меньше, чем у Llama. Именно поэтому модель способна удерживать в памяти почти 2000 одновременных запросов; узким местом становится не память, а вычислительная мощность GPU.

Архитектура Qwen3.5 построена на чередовании Gated DeltaNet и Gated Attention. Большинство слоёв использует механизм линейного внимания, который подобно Mamba‑2 оперирует скрытым состоянием постоянного размера, не порождая тяжёлого KV‑кеша. Однако у этого подхода есть обратная сторона: Gated DeltaNet работает последовательно, послойно обновляя внутреннее состояние, и плохо утилизирует матричные вычисления GPU. На коротких дистанциях классический Attention с его эффективным матричным умножением способен загрузить видеокарту почти полностью, тогда как GDN‑слои проигрывают в чистой скорости. В результате TTFT у Qwen3.5 для 4096 токенов составляет 1.86 с против 1.32 с у Llama. На очень длинных контекстах (100K токенов и выше) ситуация меняется: классический KV‑кеш становится тормозом, а Gated DeltaNet продолжает работать с прежней эффективностью.

О качестве и специализации моделей

Каждая из рассмотренных моделей имеет собственную нишу, определяемую не только скоростью, но и метриками качества.

Llama 3.1 8B — референсная плотная модель. Показывает 69.4% на MMLU и 72.6% на HumanEval. Это проверенный универсал для задач, где важна предсказуемость и стабильность, а не максимальная производительность.

Nemotron‑Nano‑9B‑v2 позиционируется как математик и кодер. По данным NVIDIA, модель достигает 72.1% на AIME25, 97.8% на MATH500, 64.0% на GPQA Diamond и 71.1% на LiveCodeBench. Эти результаты делают её сильнейшим вариантом для задач, требующих точных вычислений и генерации корректного кода.

Qwen3.5‑9B является универсальным «эрудитом». Модель превосходит GPT‑OSS‑120B по MMLU‑Pro (82.5%) и GPQA Diamond (81.7%), а также показывает 83.2% на HMMT. Высокое качество на широком спектре тестов позволяет использовать её в сценариях, где важны широкий кругозор и точность ответов.

Bamba‑9B‑v2 — быстрый универсал, превосходящий Llama 3.1 8B по среднему баллу OpenLLM v2. Она не специализируется на одной задаче, но обеспечивает хорошее качество при заметно более высокой скорости.

Рекомендации

• Для чат-ботов и потоковой обработки с высокой пропускной способностью оптимален Nemotron‑Nano‑9B‑v2 — он в полтора раза быстрее Llama и примерно на 30% эффективнее использует память (VRAM/RPS 45.8 против 65.0 ГБ·с).
• Для саммаризации, аналитики документов и агентных систем, где во главе угла широкий кругозор и качество ответа, лучше подходит Qwen3.5‑9B.
• Bamba‑9B‑v2 занимает промежуточную позицию: она даёт заметный прирост скорости при сопоставимом с Llama объёме памяти и может использоваться как универсальный инструмент.

Заключение

Большие языковые модели по‑прежнему требуют значительных вычислительных ресурсов. Однако прогресс в архитектурах — Mamba‑2, Gated DeltaNet — шаг за шагом снижает стоимость владения: на одном H200 теперь можно обслужить заметно больше клиентов, чем год назад. Выбор модели перестаёт быть гаданием по маркетинговым обещаниям и превращается в инженерную задачу с чёткими метриками.

Автор продолжает калибровку симулятора на реальных замерах и готов делиться обновлёнными данными. Читатели, имеющие опыт промышленного развёртывания этих или аналогичных моделей, приглашаются к обсуждению.

Начало революции в графическом конвейере

За последние пять лет в архитектуре рендеринга в играх произошел по-настоящему огромный сдвиг. Если на протяжении двух десятилетий до этого, прогресс упирался в неумолимую математику закона Мура, где улучшение качества рендеринга сводилось к росту вычислительной мощности и увеличению количества полигонов и шейдеров, то сегодня все изменилось. Теперь для достижения высокого визуального качества в играх стала не грубая сила в лоб, а новые подходы, которые меняют устоявшуюся за десятилетия суть самого построения игровой картинки, в том числе на основе технологий ИИ. На сегодняшний день более 80% всех пикселей на экране в самых передовых (с технической точки зрения) играх проходят не классический путь, а смешанные подходы и новые уловки (новые подходы в вычислении света, супер-семплинг на основе ИИ и др).

Сегодня мы остановимся на том, как повлиял (и будет дальше влиять) ИИ на рендеринг в играх, чтобы понять суть сдвига в графике. Для этого мы изначально рассмотрим две ключевые темы: во-первых, фундаментальные отличия DLSS от всех предыдущих подходов к повышению разрешения и сглаживанию (от SSAA до TAAU), а во-вторых, место, которое нейросетевое масштабирование занимает в современном графическом конвейере, после чего сделаем обзор на ближайшее будущее рендеринга в играх.

От супер-сэмплинга к нейронному синтезу сцены

Чтобы оценить место DLSS (в том числе и будущей 5-ой версии) в графическом пайплайне, мы проследим путь эволюции сглаживания и масштабирования от самых первых реализаций до современного подхода с использованием ИИ-вычислений.

Эпоха "чистой математики": SSAA, MSAA, FXAA и их ограничения

Классические методы борьбы с "лесенками" на границах игровых объектов были основаны на простом, но дорогом для вычислений принципе: обработке изображения с более высоким разрешением или его частей.

Посмотрим на три классических алгоритма сглаживания в играх:

• SSAA (Supersampling Anti-Aliasing): Самый "честный", но и прожорливый метод. Сцена рендерится в разрешении, превышающем целевое у пользователя (например, в 4K для вывода на FHD-монитор), а затем полученный кадр сжимается обратно до нужного размера. SSAA обрабатывает каждый суб-пиксель, включая затенение, что дает эталонное качество картинки, но приводит к падению производительности (надеюсь, вы понимаете, почему). Для современных игр со сложными шейдерами и геометрией этот подход непрактичен.
• MSAA (Multisample Anti-Aliasing): Этот метод появился, как попытка оптимизировать SSAA. Суть оптимизации сводится к тому, что обработка затенения производится только один раз для каждого примитива (например треугольника) внутри пикселя, а не каждый сэмпл, как это делает SSAA. Хотя такой подход и значительно снижает нагрузку на GPU, стоит учесть, что MSAA эффективно сглаживает только края геометрии, но не справляется с другими элементами пайплайна, как например, сглаживанием текстур. Также его стоимость все еще остается высокой для сложных сцен.
• FXAA (Fast Approximate Anti-Aliasing): Сглаживание на уровне постобработки, которое анализирует уже готовый 2D-кадр, ищет в нем высоко-контрастные границы и размывает их. Это самый "дешевый" с точки зрения производительности метод, но его главный недостаток, в итоге - неизбежное "мыло" всей картинки, включая текстуры и элементы интерфейса, что приводит к потере четкости и детализации.

Эра темпорального накопления: TAA и его наследники (TAAU)

Ключевой прорыв произошел с переходом к темпоральным методам, которые используют информацию не только из текущего кадра, но и из предыдущих.

Что же изменилось в подходах:

• TAA (Temporal Anti-Aliasing): Вместо того чтобы рендерить каждый пиксель, TAA слегка смещает положение камеры каждый кадр, накапливает информацию с предыдущих кадров, используя моушн векторы объектов, и затем вычисляет среднее значение. Это позволяет получить качество, близкое к SSAA, при производительности, сопоставимой с одной отрисовкой кадра. TAA стал отраслевым стандартом на долгие годы, но у него есть свои фундаментальные проблемы: гоустинг, потеря детализации на мелких и быстро движущихся объектах и общее "мыльное" ощущение от картинки в некоторых реализациях и сценах.
• TAAU (Temporal Anti-Aliasing Upsampling): Логическое развитие TAA. Понимая, что темпоральное накопление позволяет восстанавливать детали из субпиксельной информации, разработчики начали применять его для масштабирования изображения, рендеря сцену в более низком разрешении и "апскейля" в высокое, используя историю кадров.

Именно TAAU является прямым предшественником DLSS, но с одним критическим отличием: TAAU полагается на жестко заданные правила и не способен "понимать" сцену, а лишь математически усредняет пиксели, что часто приводит к артефактам.

Революция DLSS: от CNN до Vision Transformer

NVIDIA DLSS (Deep Learning Super Sampling) и её аналог FSR совершили качественный скачок, заменив чисто математические подходы TAAU на модели машинного обучения, способные принимать более "интеллектуальные" решения о том, как именно восстанавливать изображение.

Первые поколения использовали сверточные нейронные сети (CNN). Их главный недостаток - это "близорукость": модель анализировала пиксели только в рамках ограниченного пространственного окна (рецептивного поля или же область входного изображения). Это приводило к хорошо знакомым геймерам проблемам: если объект двигался слишком быстро, CNN "теряла" его из виду, что вызывало мерцание и гоустинг на мелких деталях вроде листвы, проводов или волос.

Переход на архитектуру Vision Transformer в 4-ой версии DLSS, стал фундаментальным прогрессом. В отличие от CNN, Transformer может оценивать значимость и взаимосвязь любых пикселей в кадре, независимо от расстояния между ними, благодаря дополнительному механизму внимания. Модель научилась "понимать" контекст всей сцены, что позволило радикально повысить стабильность изображения, уменьшив количество артефактов и впервые приблизить картинку после апскейла очень близко сопоставимой с нативным разрешением (а иногда и превосходить её по четкости).

Техническая интеграция в графический конвейер: Место DLSS в пайплайне рендеринга

DLSS не является "черным ящиком", который просто получает на вход низкое разрешение и выдает высокое. Это сложная система, глубоко интегрированная в процесс рендеринга, требующая от разработчиков не только вызова API, но и подготовки специфических данных. Поэтому, когда вы видите плохой DLSS - возможно, дело в самом разработчике игры, а не технологии.

Входные данные: что нужно для работы DLSS

Для корректной работы DLSS графический движок игры должен предоставить специальный набор буферов, каждый из которых критически важен для алгоритма:

1. Color Buffer: Грубо говоря, это кадр, отрендеренный в пониженном разрешении. Это "грубый набросок", на основе которого будет строиться финальное изображение.
2. Motion Vectors: Критически важный компонент. Для каждого пикселя этот буфер показывает, куда он переместился по сравнению с предыдущим кадром. Это позволяет DLSS понять динамику сцены, корректно связать пиксели из разных кадров и избежать эффекта гоустинга.
3. Depth Buffer: Информация о расстоянии от камеры до каждого пикселя. Он помогает модели понять структуру сцены и то, какие объекты перекрывают друг друга, что особенно важно для правильной обработки краев геометрии.
4. Jitter Offsets: Чтобы получить больше информации, чем содержится в одном кадре, камера в каждом кадре слегка смещается на долю пикселя по особому паттерну (как в ранее описанном TAA). DLSS должен точно знать величину этого смещения, чтобы "вычесть" его из векторов движения и корректно совместить пиксели из разных кадров.

Как DLSS встраивается в конвейер

DLSS встраивается не в любой момент, а в строго определенном месте графического пайплайна. Интеграция с игровым движком происходит через открытый SDK, который предоставляет интерфейс для технологий (DLSS, Reflex, и т.д.).

Пример этапов конвейера с учетом работы DLSS:

1. Рендеринг геометрии и шейдинг: Игровой движок выполняет всю "тяжелую" работу: просчитывает геометрию, освещение, материалы и тени. Все это происходит в пониженном разрешении.
2. Ранний пост-процессинг: DLSS должен быть встроен до применения таких эффектов, как шум (film grain), хроматические аберрация, виньетки и, самое главное, до пользовательского интерфейса (UI). Это необходимо, чтобы нейросеть работала с "чистым" изображением сцены, а не с наложенными поверх эффектами, которые могут сбить ее с толку и исказить финальный результат.
3. Вызов DLSS: На этом этапе все подготовленные входные данные (буферы цвета, глубины, моушн векторы) передаются в DLSS. Модель обрабатывает их, используя свои веса, и генерирует финальный кадр в целевом (высоком) разрешении.
4. Поздний пост-процессинг и UI: После того как DLSS выполнил свою работу, поверх полученного высококачественного изображения накладываются эффекты, которые должны оставаться "родными" для разрешения монитора (хроматическая аберрация, виньетка и т.д.), и, что самое важное, интерфейс в целевом разрешении, оставаясь максимально четким и неискаженным.
5. Вывод на экран: Финальный кадр отправляется на дисплей.

Всё это открывает путь к массовому внедрению технологий, в особенности, когда DirectX 12 и другие вендоры открывают новые подходы, подобные DLSS, на основе ИИ рендеринга (сжатие текстур, материалов) на уровне API, делая их стандартной частью инструментария современного разработчика.

DLSS 5: сдвиг парадигмы к нейронному синтезу сцены

DLSS 5 дает старт переопределения самого подхода к постановке задачи. Если предыдущие версии работали с уже отрендеренным кадром, восстанавливая или достраивая пиксели, то новая модель оперирует структурными данными движка: depth buffer, albedo, motion vectors, нормали, идентификаторы материалов и освещения. Сеть не просто «дорисовывает» - она переосмысливает визуальные свойства сцены.

NVIDIA заявляет, что DLSS 5 способен анализировать семантику сцены: распознавать кожу, волосы, ткани, различные типы освещения, и генерировать более точные пиксели для подповерхностного рассеяния (subsurface scattering) на коже или более реалистичные отклики материалов. Речь идёт о контролируемой модификации финального изображения, остающейся детерминированной и темпорально стабильной.

То, что многие "эксперты" ругались на финальный результат, скорее сейчас - это просто сырость самой технологии и "рукастость" разработчиков, которые помогали создавать техно-демонстрацию. Стоит учитывать, что меняется сам подход к рендерингу, так что первые шаги будут шакальными, но этот путь проходили и более ранние технологии без ИИ.

Multi Frame Generation: от линейной интерполяции к адаптивному синтезу

Математика генераций кадров

В классической схеме генерации кадров (DLSS 3) на каждый рендеренный кадр генерировался один интерполированный, что давало прирост в скорости примерно на 100%. DLSS 4 увеличил прирост еще примерно в два раза (три сгенерированных кадра на один рендеренный).

Ключевой вопрос: при каком FPS это имеет смысл? Предположим, что при входном потоке 60 FPS после супер-сэмплинга выход может достигать 360 FPS на дисплее. Это соответствует временному окну ~16.6 мс между рендеренными кадрами, внутри которого нейросеть должна предсказать пять промежуточных состояний сцены. Подумайте сами над ответом и напишите в комметах.

Вообще, в архитектуре Blackwell, которая служит базой для предсказания движения, на высоких коэффициентах генерации линейная интерполяция моушн векторов становится недостаточной. DLSS 4.5 добавляет динамическую регулировку коэффициента: в сценах с высокой сложностью (например, взрывы частиц) модель может снижать коэффициент, чтобы сохранить качество, а в относительно статичных сценах - повышать. Однако опять же, дело за разработчиками.

И вот тут то стоит сделать ремарку. Инженеры Nvidia - люди, которые работают сугубо над тем, чтобы двигать свою технологию вперед, а графические программисты, которые работают над рендерингом, мало того, что занесены в красную книгу, во-первых, привыкли к устоявшимся подходам и не могут быстро переключиться на обновленный пайплайн рендера ничего не сломав, а во-вторых, как и все придерживаются сроков релизов. Если вы представляете примерно, что скрывается под "перестроить графический пайплайн", то должны понимать, почему на первых порах неизбежны косяки в использовании новой технологии.

Проблема в задержках ввода (инпат-лаг) и решение через Reflex

Генерация промежуточных кадров фундаментально увеличивает инпат-лаг: тобишь, сгенерированный кадр не содержит реакции на ввод пользователя, эта реакция появляется только в следующем рендеренном кадре.

NVIDIA компенсирует это технологией Reflex, которая синхронизирует CPU и GPU таким образом, чтобы очередь рендеринга была минимальной. Однако, реализация также сильно зависит от игрового движка и правильности встраивания в общий жизненный цикл рендеринга и остальной логики.

А что, если сжимать данные, а не пиксели?

DLSS - это конечно круто и у всех на слуху. Но это лишь один из подходов, где используется ИИ в процессе рендеринга. Давайте посмотрим на другие подходы.

Сжатие текстур с использованием ИИ: экономия видео-памяти

Одна из наиболее острых проблем современного геймдева: огромный рост объёмов текстур. Традиционные блочные методы сжатия (BC1-BC7) достигают коэффициентов 4:1 <=> 8:1, но их эффективность упирается в фундаментальные ограничения: сжатие происходит независимо для каждого блока, без учёта глобальной структуры текстуры.

Инженеры решили подойти к задаче принципиально иначе: вместо хранения сжатого изображения, хранится обученная нейросеть (или её веса), способная реконструировать текстуру произвольного разрешения в рантайме. Например, NVIDIA, заявляет о семикратном сокращении использования VRAM и системной памяти по сравнению с традиционными блочно-сжатыми текстурами при сопоставимом визуальном качестве.

Технически это работает следующим образом: на этапе сборки игры текстуры пропускаются через процедуру обучения, занимающую менее минуты на тысячи ассетов (в зависимости от железа, конечно). Результатом является компактное представление для модели, которое при загрузке в память распаковывается тензорными ядрами в реальном времени. Поскольку распаковка происходит «на лету», отпадает необходимость хранить в видео-памяти одновременно все MIP-уровни. ИИ может генерировать нужный уровень по требованию.

Для AAA-игр это означает не только экономию видео-памяти, но и радикальное сокращение размера самих игр, ускорение загрузки и возможность увеличить плотность текстур без роста требований к памяти.

Компрессия шейдеров и материалов

Сложные материалы - это слоистые структуры, комбинирующие десятки карт и сотни математических операций. Рендеринг материалов высокого уровня (например, фарфор, шёлк, многослойная кожа) в реальном времени до сих пор был непрактична из-за высокой вычислительной стоимости.

ИИ-шейдеры используют обученные нейросети для вычисления сложного шейдерного кода.

Архитектурно это означает, что вместо выполнения полного графа шейдера на каждом пикселе, GPU выполняет инференс, который выдаёт финальные параметры шейдера. Выигрыш достигается за счёт того, что тензорные ядра выполняют матричные операции существенно эффективнее, чем шейдерные ядра.

Инференс вместо трассировки лучей

Все знают, насколько прожорливой остается трассировка лучей - Ray Tracing и, в особенности, Path Tracing. Path tracing требует трассировки сотен или тысяч лучей на пиксель для схождения непрямого освещения. Новый подход позволяет заменить большую часть этой работы инференсом: после трассировки одного-двух отскоков, нейросеть предсказывает результат бесконечного числа последующих отскоков.

К примеру, подобная технология (NRC) уже стала доступна через RTX Global Illumination SDK и вскоре появится в RTX Remix. Практическое следствие такого подхода - это возможность достижения визуального качества традиционного Path Tracing с производительностью, сопоставимой с более простыми техниками глобального освещения.

Все описанные технологии опираются на специализированные вычислительные блоки. Эволюция тензорных ядер от поколения к поколению напрямую определяет, насколько эффективно работают ИИ модели рендеринга.

Исходя из этого, пользователи RTX 20/30 серий получают идентичное качество изображения, к примеру от DLSS 4.5, но со значительным падением производительности из-за отсутствия родной поддержки FP8/FP4 в тензорных ядрах.

Взглянем в неизбежное будущее: ИИ рендеринг, как новый стандарт

Итак, поговорив о текущих технологиях и меняющемся подходе (где-то еще не идеальным, экспериментальным, но уже набирающем обороты), давайте заглянем в ближайшее будущее рендеринга в играх на базе ИИ.

Траектория развития до 2030 года

Проводя анализ текущих технологических векторов и уже доступных решений, можно смело спрогнозировать несколько ключевых направлений:

1. Полная замена традиционных шейдеров на инференс: первые технологии, вроде RTX Neural Shaders уже демонстрируют, что нейросети могут ускорять сложные вычисления на материалах эффективнее, чем рукописный шейдерный код, в особенности из-за улучшения архитектуры тензорных ядер. Следующий шаг, безусловно, унификация всех материалов под ИИ модели, где шейдер компилируется в веса небольшого инференса.
2. Плавный переход от генерации кадров, к генерации сцены: уже существующие технологии работы с примитивами сцены (проработке геометрии, освещения, текстур), уводят шаг к более оптимизированному и продвинутому конвейеру производства игр на уровне сцены, что развяжет руки художникам и техническим артистам, избавив от рутинной работы по оптимизации сцен на уровне ИИ. А дальше, как вариант, это и генерация каких-либо примитивов, чтобы подобрать для артистов первоначальные наброски за секунды, а не часы ручной работы.
3. Гибридные вычислительные модели: Современные видео-карты уже содержат отдельные тензорные ядра, ядра для рейтрейсинга и шейдерные ядра. Будущие архитектуры, вероятно, ещё сильнее разнесут эти специализированные блоки, позволяя параллельно выполнять классический рендеринг, трассировку лучей и инференс.
4. Стандартизация ИИ-рендеринга: Microsoft уже добавила поддержку ИИ-рендеринга в DirectX, что открывает путь к универсализации (как минимум на уровне DirectX API). Те же ARM развивают собственные GDK для разработчиков, открывая двери для супер-семплинга и денойзинга на основе ИИ под мобильные устройства.

Однако, при всех достижениях, остается ряд фундаментальных проблем, над решениями которых работают сотни инженеров:

1. Детерминированность: Генеративные модели по своей природе случайны. Для соревновательного гейминга необходима попиксельная повторяемость результата, чего сложно достичь без фиксации сида. Однако развитие всё новых и новых подходов, сводит случайность к минимуму.
2. Энергопотребление: инференс безусловно жрет много энергии. В мобильном гейминге и на портативных устройствах (например Steam Deck, Nintendo Switch) это критическое ограничение. Но и в этом направлении ведётся огромная работа, предлагая новые варианты оптимизаций моделей.
3. Обратная совместимость: По мере роста вычислительных требований новых моделей старые GPU теряют способность эффективно их исполнять, что создаёт фрагментацию пользовательской базы. Здесь же скорее результат будет зависеть от скорости появления общепринятых стандартов в разработке, поскольку мы находимся лишь вначале пути.

В истории уже было отвращение к технологиям. Просто вы этого не помните. Как индустрия переваривала прошлые графические революции?

Тейки, сопровождающие внедрение ИИ рендеринга: от "фейковых кадров нейрослопа" и "мыла вместо графики" до страха перед потерей контроля над визуальным результатом, звучат конечно очень громко, но не являются чем-то новым для индустрии. Практически каждое фундаментальное изменение в архитектуре рендеринга за последние 25 лет встречало схожее сопротивление, прежде чем стать новым стандартом.

Compute шейдеры против обычного конвейера (2001–2004)

До появления GeForce 3 и DirectX 8 графический конвейер был жёстко заданной цепочкой операций: трансформация вершин, освещение по фиксированным формулам, растеризация, смешивание текстур. А потом нам разрешили программировать свои вершинные и пиксельные шейдеры для каждой стадии, что открыло дорогу к картам нормалей, динамическим теням и сложным материалам.

В то время, людей пугало, что шейдеры слишком медленные, разработчики не справятся с написанием сложного кода, и что шейдеры, которые можно закодить - это костыли, а не шаг вперед.

В реальности же, всего через пять лет игры без шейдеров, стали пережитком прошлого. Half-Life 2, Doom 3, Far Cry продемонстрировали, что программируемый пайплайн, это не просто замена старому, а инструмент, позволяющий создавать шедевры, невозможные ранее. Разработчики же быстро освоили HLSL и GLSL, а производительность выросла, благодаря аппаратному ускорению шейдерных блоков.

Переход к отложенному освещению (Deferred Rendering, 2007–2011)

Классический прямой рендеринг (forward rendering) пересчитывал освещение для каждого объекта, что делало множество динамических источников света непрактичным. Отложенный рендеринг разделил процесс на два прохода: сначала пишутся геометрические атрибуты в G‑буфер, а уже затем выполняется расчёт освещения только в экранном пространсвте. Это позволило использовать десятки и сотни динамических источников света в кадре. А ведь сегодня это кажется обыденностью.

Но в то время, многие утверждали, что g-буфер будет жрать много памяти, мощное сглаживание MSAA придется выкинуть, а все прозрачные объекты чем-то заменить, ведь они ломаются.

Но в реальности, индустрия нашла компромиссы, ведь плюсы перевешивали все минусы. И так, взамен MSAA появились сначала новые виды сглаживания (FXAA, SMAA, позднее замененные TAA и TAAU), которые в итоге даже превзошли по качеству. А сам подход стал индустриальным стандартом.

Физически корректный рендеринг (PBR, 2013–2016)

В эпоху до PBR материалы описывались стандартными параметрами (specular power, glossiness), которые вели себя по-разному при разном освещении и требовали ручной подгонки под каждую сцену. Физически корректный подход ввёл единую модель BRDF, основанную на измеряемых дополнительных свойствах реальных материалов: metallic, roughness, albedo.

Однако по-началу, реакция была жесткой - говорили о том, что все игры станут одинаковыми и пластиковыми, старые текстуры придется переделывать с нуля, а художники потеряют творческий контроль.

Но случилось другое: PBR не уничтожил стилизацию. Он дал художникам предсказуемую основу, поверх которой можно накладывать стилистические решения. Переход на PBR конечно потребовал до-обучения сотрудников и введения в работу новых инструментов (например, как Substance Painter, Quixel), но результатом стал скачок в реализме и стабильностью материалов между разными сценами и проектами. Сегодня даже стилизованные мультяшные игры используют PBR-пайплайн, адаптированный под эстетику.

Наши дни

Вот и сейчас, начиная с 2018 года, всё началось с переноса технологий рейтрейсинга из киношного рендера, в игровой. Первые реализации были скромными: только тени или отражения при низком количестве лучей на пиксель..

Спустя семь лет, трассировка лучей уже стала стандартом в AAA-сегменте. Cyberpunk 2077 в режиме Path Tracing, Alan Wake 2, Black Myth: Wukong с полным RT: это примеры того, как технология созрела и стала стандартом. Денойзинг и апскейлинг (включая DLSS) эволюционировали, сделав RT играбельным. Консоли текущего поколения получили аппаратные RT-блоки, а AMD и Intel догоняют NVIDIA в производительности трассировки.

Текущий переход к ИИ рендерингу демонстрирует все те же паттерны, что и предыдущие революции.

Нас ждет очередная революция? Подведем итоги

Каждая из прошлых революций требовала времени на адаптацию, обновление инструментария, обучение разработчиков и оптимизацию железа. ИИ рендеринг не является исключением.

Он не отменяет работу художников и программистов, а даёт им новый уровень абстракции: вместо ручной борьбы с шумом, сглаживанием или оптимизацией материалов, разработчики смогут полагаться на модели, обученные на огромных дата сетах фото-реалистичного или же стилизованного контента.

Более того, как мы уже убедились выше, история показывает, что после принятия новой парадигмы или технологий, индустрия не просто возвращается к прежнему уровню качества, а выходит на новую ступень. Шейдеры не убили 2D-спрайты, но подарили нам карты нормалей и динамические тени. PBR не сделал игры однообразными, а дал новую основу, как для фото-реализма, так и для стилизации (например, Dishonored 2).

ИИ-рендеринг не уничтожит «ручную» графику, а позволит достичь в реальном времени визуальной сложности.

Другой вопрос, как разработчики будут пользоваться технологиями, ведь есть примеры, где разработчики, даже при значительном скачке технологий, делают шаг назад (привет Battlefield 6).

Следующие пять лет определят, насколько ИИ рендеринг проникнет в каждый аспект создания игр. Судя по текущей траектории, к 2030 году грань между "рендерингом" и "генерацией" станет неразличимой, либо очень стертой.

Рассказываем, что показала компания, о чём говорили спикеры и куда движется индустрия.

Сначала цифры: как вырос Cloud.ru

На конфренции Cloud.ru впервые публично раскрыла детальную финансовую отчётность. Выручка за 2025 год — 76,5 млрд рублей (+50% год к году). Чистая прибыль — 14,7 млрд(+86%).

Основной драйвер роста — инфраструктура для ИИ: обучение и инференс моделей дали 54% выручки. При этом классические облачные сервисы тоже выросли на 31%, что быстрее темпов роста рынка России.

По инфраструктуре Cloud.ru — один из крупнейших облачных провайдеров в стране. В парке находится 43 000+ единиц оборудования, 29 000+ серверов, 9 ЦОДов суммарной мощностью 56 МВт.

По доле рынка мы уже давно занимаем большую часть, при этом продолжая расти быстрее рынка,

Важный нюанс: убыточных направлений нет. Разные платформы находятся на разных стадиях развития, но инвестиции отбиваются в плановые сроки.

АФЛТ-Системс, например, уже в активной фазе перехода к регулярной эксплуатации AI. Павел Павленко, руководитель направления развития GenAI, говорит: «GoCloud для меня в этом году — про то, как индустрия перешла от разговоров про потенциал GenAI к разговору про реальные внедрения, метрики и архитектурные решения. Мы строим внутреннюю AI-платформу, выстраиваем процессы и запускаем первые продукты, в том числе AI-фикацию пайплайна разработки. На таком этапе ценность партнёра измеряется не презентациями, а скоростью реакции и готовностью идти в эксперимент».

Что происходит на рынке: от пилотов к промышленной эксплуатации

Последние 2–3 года компании делали пилоты по внедрению генеративного ИИ в основном благодаря визионерской силе лидеров, CEO, директоров. Пилоты часто были точечными и экспериментальными: автоматизировали поддержку и отвечали на частые простые вопросы, генерировали контент.

Сейчас модели стали лучше, а бизнес опытным путем выяснил, какие функции эффективнее передавать ИИ. Результаты пилотов всё чаще признаются успешными.

Например, Артём Бондарь, руководитель направления NLP в Центре искусственного интеллекта Т-Банка, выделяет три ключевых направления GenAI-инструментов. Первое — агенты и копайлоты в полном цикле разработки. Второе — инструменты для HQ-профессий: от генеративных моделей для общих задач до вертикальных решений вроде автоматической генерации креативов «почти без касания людей».

Но прямой финансовый эффект особенно заметен в автоматизации поддержки и операционки. Здесь задействован весь спектр GenAI-подходов:

• пошаговая автоматизация с помощью LLM там, где есть регламентированный процесс,
• агенты, которые ищут решение в сконструированной для них среде,
• и AI-сотрудник Афанасий Иванов (АИ), который работает в компании уже больше года и использует те же интерфейсы, что и люди.

Становится ясно, что перелом скоро наступит. И это точно не год.

Последует волнообразный рост спроса на инференс, а не только на обучение. Раньше инфраструктура была перекошена только в ту сторону, хоть и занимаются обучением единицы компаний в стране. Уже за последние полтора года спрос на инференс резко вырос. Скоро пропорция выровняется 50 на 50, а дальнейший переход будет зависеть от того, насколько быстро заработает агентная экономика.

DevOps-практики тоже перешли в практическую плоскость. В МТТЕХ выстроили модель GitOps, где Git — единый источник истины, а все изменения проходят через ревью и автоматизированный деплой. IaC-подход (Terraform, Ansible) и self-hosted GitLab в облаке позволяют управлять инфраструктурой как кодом.

Если раньше поднятие инфраструктуры занимало недели и требовало вовлечения нескольких команд, то сегодня мы говорим про минуты и полностью автоматизированные процессы,

При этом классические облачные нагрузки тоже растут. Цифровизация никуда не делась, а GenAI-трансформация косвенно драйвит и классику: нужны хранилища, CPU для сопутствующих задач, сети.

Neocloud: GPU как отдельное направление

На этом фоне Cloud.ru выделил AI-инфраструктуру в отдельное бизнес-направление — Neocloud. Это единая управляемая среда для полного цикла работы с моделями: от разработки и обучения до инференса и эксплуатации.

Нагрузки под ИИ сильно отличаются от классических. Для них нужны высокоскоростные соединения между GPU, умный шедулинг (днём — инференс, ночью — дообучение), возможность получить кластер из сотен HGX, а потом отпустить. Но на рынке такого предложения нет. Neocloud как раз решает управление вычислительными ресурсами на масштабе.

В Neocloud есть:

• Доступ к тысячам современных GPU в публичном облаке.
• Поддержка гибридных сценариев (своя инфраструктура + облако).
• Собственная платформа Distributed Train для распределённого обучения с проактивным мониторингом, автоматической заменой отказавших узлов и гибким управлением очередями.

Чем Neocloud выгодно разработчикам

Решения такого уровня остаются доступными и для пользователей. Арендовать HGX теперь не проблема, они доступны буквально по цене обеда.

Выгодная стоимость для Cloud.ru остается приоритетом. Компания заявляет, что не планирует повышать цены в этом году.

Это не единственный аргумент в пользу облака. Как отмечает Артём Сычев, первый заместитель генерального директора РТ-Информационная безопасность, для госсектора и крупных компаний есть ещё одно важное преимущество: «С облаком удобнее проходить закупочные процедуры. Ты сделал рамочный договор, и в любой момент, когда у тебя появился новый госзаказчик, быстро развернул инфраструктуру».

Агенты: EvoClaw, Agent Space и новый способ общения с облаком

Другой инструмент, о котором рассказали на конференции, — EvoClaw. Это управляемый облачный сервис для работы с OpenClaw и другими open source агентными фреймворками. ИИ-агент обеспечивает observability, мониторинг, логирование и поддерживает политики безопасности. Cloud.ru одним из первых в России приступил к открытому тестированию OpenClaw ещё в феврале 2026 года.

Ключевые особенности EvoClaw:

• Агент запускается в пару кликов.
• Политики безопасности приведены к Zero Trust, привилегии — по минимальному принципу.
• Агенты изолированы своим рабочим пространством.
• Интеграция с AI Factory (Foundation Models, AI Agents, Managed RAG).

EvoClaw — это другой способ общения с агентами. Он быстро разворачивается, на лету изучает новые скиллы, подтаскивает все необходимые функции. Он становится своего рода прокси между пользователем и сервисами и превращается в полноценного помощника.

Это первый шаг к такому типу потребления, когда пользователь или организация перестают общаться напрямую с облаками и начинают общаться с агентами, которые с помощью доверенных им учёток, прав сами разворачивают инфраструктуру, сами её администрируют, дают нагрузку и так далее,

Да, для облачных провайдеров это может звучать как риск, но на самом деле агенты пока что все так же будут ходить в API облаков и строить инфраструктуру там.

Ещё одно решение Cloud.ru для работы с агентами — Agent Space — мобильное и десктоп-приложение, которое позволяет чатиться с агентом. Оно работает на протоколе A2A (Agent-to-Agent). А в каталоге представлены уже более 20 бизнес-сценариев, среди которых и «Агент Python-разработчик».

AI Workflows: low-code оркестратор

Бизнес-процесс редко состоит из одного действия. Обычно это цепочка: проверить данные в 1С, прогнать их через LLM, создать задачу в Jira, отправить уведомление в Telegram.

Для таких сценариев Cloud.ru запустил AI Workflows — low-code конструктор, который сейчас находится в публичном тестировании.

Пользователь собирает цепочку шагов в визуальном интерфейсе (как в n8n, но с ИИ-блоками). На каждом шаге можно подключить готовый коннектор к 1С, Jira, Confluence, PostgreSQL, почтовым клиентам, мессенджерам или внутренним сервисам через API. А между ними — вызовы LLM из Evolution Foundation Models, инференс-моделей или даже готовых агентов.

На старте AI Workflows ориентирован на готовые коннекторы и предсобранные кубики. Вставлять кастомные скрипты прямо в цепочку пока нельзя. Но в компании понимают, что разработчикам это нужно и планируют дать такую возможность, подчеркивает Анастасия Тафеенко, директор блока разработки платформы Cloud.ru Evolution.

На пресс-конференции прозвучала интересная мысль: AI Workflows — это тоже промежуточный этап. Через пару лет, когда компании привыкнут делегировать задачи ИИ, и этот уровень оркестрации станет не нужен, всё будет ИИ-фицировано насквозь.

Безопасность: Guardrails и Container Security

Агенты получают доступ к вашей инфраструктуре. Да, это удобно, но возникает закономерный вопрос: как не допустить, чтобы агент случайно (или специально) не отправил чувствительные данные во внешнюю LLM? Или не поднял контейнер с критической уязвимостью?

На GoCloud 2026 анонсировали два инструмента, которые закрывают эти риски — на уровне данных и на уровне инфраструктуры.

Guardrails Filter: чтобы секреты не утекли

Guardrails Filter — это фильтр между агентами и большой языковой моделью. Он сканирует исходящий запрос, находит потенциально чувствительные данные (ПДн, реквизиты, API-ключи, секреты), маскирует их и только потом отправляет в LLM. Когда модель возвращает ответ, фильтр восстанавливает реальные значения на месте.

Guardrails как раз обеспечивает фильтрацию при обращении к внешним моделям. Наши же модели не дообучаются, данные не используются, не имеют доступа в интернет. Это проверено пен-тестами,

Evolution Container Security: чтобы контейнеры не стали дырой

На уровне государства вводятся понятия «суверенного искусственного интеллекта», проходят публичные слушания по закону. Граница безопасности активно формируется. Cloud.ru отвечает на этот запрос и даёт широкую линейку сервисов безопасности, чтобы клиент мог выбрать нужный уровень под свой класс информационной системы.

По оценкам экспертов, порядка 80% запущенных кластеров Kubernetes содержат роли с избыточными привилегиями. И Evolution Container Security обеспечивает безопасность контейнерных сред Kubernetes. Сервис уже доступен в публичном тестировании.

Возможности Evolution Container Security:

• Сканирование контейнеров на уязвимости (включая БДУ ФСТЭК).
• Встроенный ИИ-агент для генерации политик безопасности.
• Создание и управление политиками через конфигуратор.
• Проверка конфигураций во время развёртывания.

Это классическая контейнерная безопасность — он проходит по настройкам кластера через фреймворк. Есть агент, который помогает настройщику сделать это правильно,

Что еще волнует безопасников

На круглом столе «Облако уже сегодня. Как получить конкурентное преимущество без компромиссов по безопасности» участники честно рассказали о своих страхах. Главный — потеря контроля. «Облако — это чёрный ящик, который необходимо контролировать, обвязывать своими сервисами, чтобы перепроверять подрядчика», — поделился Артём Сычев, первый заместитель генерального директора РТ-Информационная безопасность.

На руку работают прозрачность архитектуры и метрики кибербезопасности в личном кабинете. Понимание процессов: как нарезаются доступы, как выдаются ключи, как часто проводятся пентесты. SLA с чёткими временами отклика и возможность выгружать логи гипервизоров для собственного анализа аномалий.

Облачные провайдеры, включая Cloud.ru, уже отвечают на эти запросы — едиными политиками безопасности, мониторингом и логированием как в публичном облаке, так и в гибридных средах.

Но есть и другой уровень безопасности — физический. Антон Фомин, CDO Navio, рассказывает, как GenAI помогает спасать жизни: «Как собрать данные о лобовом столкновении, не отправляя водителя на встречную машину? Мы это делаем с помощью нашего фотореалистичного стимулятора. Вот настоящая польза генеративного ИИ: заглянуть за горизонт и научить машины ездить без риска».

Гибридные облака: почему это сложно и как Cloud.ru стали одними из первых в этом поле

Гибридное облако — одна из тех тем, о которой много говорят, но мало кто делает хорошо. На конференции Cloud.ru представил исследование, которое показывает: интерес к гибридной модели растёт, но её часто воспринимают как нечто сложное и размытое.

Что такое гибрид на самом деле? Если отбросить маркетинговые формулировки, гибрид — это частное облако (on-prem) + публичное облако + связь между ними под единой платформой. Из единого личного кабинета можно управлять ресурсами и там, и там, переезжать виртуальными машинами из публичного облака в свой ЦОД и обратно.

Гибрид для меня — это возможность использования on-prem инфраструктуры, но с биллингом, управлением ресурсами, логированием, личным кабинетом

Гибрид это всё ещё больно и дорого. Публичное облако можно обновлять постоянно — раз-два в день, а то и чаще. Если в сервисе появилась ошибка, её сразу исправляют. С гибридом так не получится. Релиз, который поедет к клиенту на on-prem инфраструктуру, нужно собирать, тестировать, сертифицировать. И каждый сервис внутри этого релиза должен работать без оглядки на внешние зависимости.

Плюс требования клиента: пройти ПСИ, подтвердить безопасность, соответствие регуляторным нормам. В публичном облаке за это отвечает провайдер. В гибриде — всё ложится на клиента и интегратора.

Почему индустрия всё равно придёт к гибриду

• Безопасникам проще контролировать конфигурации и видеть всю инфраструктуру.
• Финансистам — смотреть утилизацию оборудования.
• CTO — видеть все виртуальные машины.
• В on-prem сложно инвентаризировать legacy-системы. Гибрид даёт прозрачность.

Cloud.ru начал строить гибридную платформу ещё на ранней стадии публичного облака. В прошлом году анонсировали Evolution Stack — платформу для создания частных и гибридных облаков. Клиенты уже могут получить единые политики безопасности, мониторинг и логирование для on-prem и публичного облака. Единой консоли управления «из облака» (модель Outpost, как у западных гиперскейлеров) пока нет. Но пилоты с единым центром управления готовы запускать уже сейчас.

В России почти нет провайдеров, которые могут предложить гибридное облако как отчуждаемый продукт, который можно установить у себя в ЦОДе. Cloud.ru сделал это за счёт того, что публичное облако и гибридная платформа построены на единой кодовой базе. Сервисы идентичны, пользовательский опыт одинаковый. Разработка начинается в публичном облаке, а прод уезжает на on-prem — и это работает, потому что сервисы внутри одни и те же.

Что будет с разработкой: не паникуем, но не забываем готовиться

Агенты уже пишут код, тестируют, разворачивают инфраструктуру. DevOps-инженер отдаёт помощнику создание виртуальных машин и настройку баз данных. SRE-агент сам поднимает метрики и ищет первопричины инцидентов. Вопрос, который возникает у каждого разработчика: «Меня заменят?»

В ближайшем будущем роли не отомрут, но изменятся. «Разработчику нужно поднимать уровень, становиться тимлидом — а его тиммейтами будут агенты», считает Анастасия Тафеенко, директор блока разработки платформы Cloud.ru Evolution.

Чем больше у разработчика экспертизы, чем лучше он понимает, как на самом деле устроен продукт, что такое репозитории, из каких блоков он состоит, — тем эффективнее он будет с агентами работать,

Новый челлендж — экономика решений. Можно написать агенту одну строчку, а потом 10 тысяч раз переделывать, уточнять, перезапускать. Каждый шаг — это токены. А токены — это деньги. Борьба будет не за то, кто быстрее написал код, а за то, сколько стоило решить задачу.

Новая роль — оркестратор агентов. На круглом столе «DevOps инструменты в облаке» представители МТТЕХ, Familia, Ventra и «Технологии – и точка» сформулировали главный тренд: «Мы движемся к модели, где человек становится оркестратором агентов. Он их направляет, пишет принципы, управляет — как оргструктурой».

Количество агентов будет расти драматически — от десятков до тысяч. И тот, кто научится управлять этой «армией», останется востребованным.

Агенты не приходят на пустое место. Основной барьер для внедрения ИИ-агентов не технологический, а организационный. Если в компании данные разрознены, процессы не формализованы, а культура не готова делегировать решения машине — никакой агент не поможет. И наоборот: в компаниях, где данные структурированы и процессы прозрачны, агенты достигают 60–90% автоматизации.

• Конвертация CUDA → HIP перестала быть востребованной — большинство LLM-инференс-команд работает через vLLM или SGLang с нативной поддержкой ROCm.
• Triton стал универсальным языком GPU-программирования: один и тот же код GPU-ядра запускается на AMD и Nvidia.
• ROCm — на 100% открытый исходный код (кроме прошивок); часть фиксов в стек приходит от коммьюнити, а не только от AMD.
• ROCm работает на ноутбуках со Strix Halo с теми же релизами, что и на дата-центровых Instinct.
• AMD обработала все 1000+ жалоб из прошлогоднего GitHub-опроса (часть — силами AMD, часть — силами коммьюнити) и обещает шестинедельный релизный цикл по образцу Chrome.

Почему это важно сейчас

Доля Nvidia в дата-центровых GPU держится во многом за счёт CUDA — её зрелого тулчейна, документации, библиотек и почти двух десятилетий кода в открытых репозиториях. Это и есть тот «ров», за который Nvidia стала самой дорогой компанией в мире. Чтобы откусить от этого пирога, AMD нужно не догнать CUDA по фичам, а сделать ROCm платформой, на которую разработчик вообще не обращает внимания. «Вы пользуетесь Chrome и не знаете, какая у вас версия — потому что это просто работает», — описывает цель Элангован в интервью EE Times.

Два с половиной года назад, когда AMD купила стартап Nod.ai Элангована (30 человек, пять-шесть лет работы над компиляторами для ИИ, ключевые контрибьюторы в Shark, Torch.MLIR и IREE), ROCm был, по словам самого Элангована, «набором кусков»: «Это росло из ASIC-прошивок: вот один кусок прошивки, вот другой — давайте свяжем». Сегодня команда релизит как софтверная компания, а не как производитель чипов.

OneROCm: единый стек для всех ускорителей AMD

Главное архитектурное изменение — унификация. Раньше AMD стремилась свести AI-стеки под разными типами железа — CPU, GPU и FPGA — в одну архитектуру. Внутренний проект OneROCm унифицировал стек: часть низкоуровневых компонентов остаётся железо-специфичной, но любое ускорение теперь проходит через ROCm. Это даёт переносимость между типами AMD-железа: код, написанный под Instinct в дата-центре, должен идти и на интегрированной графике ноутбука.

Переносимость между AMD и Nvidia два года назад была проблемой, а сегодня — почти нет. Разработчики ушли вверх по стеку, и место «общего знаменателя» занял Triton — открытый Python-DSL для GPU-ядер, который активно развивает OpenAI.

Triton — великий уравнитель

Когда-то речь шла о конвертации CUDA-ядер в HIP. Но всё больше людей переходили на Triton, который стал великим уравнителем GPU-программирования. Этот уравнитель позволяет написать Triton-ядро и запустить его на AMD или Nvidia. Мы серьёзно вложились в Triton.

Один из ключевых инженеров бывшей Nod возглавляет работу над Triton внутри AMD и тесно работает с OpenAI. Параллельно AMD вкладывается в MLIR — компиляторную инфраструктуру для ускорителей — и продолжает поддерживать Torch.MLIR, через который PyTorch-код можно перетаргетить на разное железо.

Запросы «сконвертируйте CUDA-кернел в HIP» Элангован называет редкостью среди клиентов AMD: «Большинство клиентов на инференсе используют vLLM или SGLang, гоняют одну из нескольких LLM и хотят максимум токенов в секунду. У нас есть Triton-ядра, и если появляется новый attention-алгоритм, который мы не предусмотрели, Triton — это catch-all. За пару дней мы делаем оптимизированную версию для скорости. Когда мы показываем, что развёртывание идентично, клиент делает pip install vLLM — и всё внутри».

Для HPC-сценариев HIPify по-прежнему доступен и решает свою задачу — конвертацию CUDA-исходников в HIP. Для написания и валидации новых ядер Элангован полагается на ИИ-инструменты вроде Claude: «Claude лучше HIPify — у него встроен веб-поиск».

Полностью открытый код и коммьюнити

ROCm — на 100% открытый исходный код, всё, кроме прошивок. Это держит стек под прицелом разработчиков, но даёт и преимущество: коммьюнити двигается быстрее, чем смогла бы любая компания.

Каждый может зацепиться в той точке, в которой ему интересно — в компиляторе, в рантайме, где угодно. И ограничен только своими навыками, а не тем, как быстро AMD сможет подключить его к работе.

Важная стратегическая ставка — ноутбуки на AMD Strix Halo. ROCm на них работает «из коробки», а Windows-релизы выходят в тот же день, что и версия для дата-центрового Instinct. Логика очевидна — массовый разработчик не покупает MI300X на пробу, а ноутбук на Strix Halo — рабочий вариант, чтобы потрогать стек руками.

В прошлом году AMD провела на GitHub опрос про претензии к ROCm и собрала больше 1000 ответов. Многие касались поддержки старого железа — её закрыли либо силами AMD, либо коммьюнити. По словам Элангована, на сегодняшний день все 1000+ жалоб обработаны — часть силами AMD, часть силами коммьюнити. Сам он мониторит ключевые слова в X (включая «ROCm sucks» и «AMD software not working») и отвечает лично — называет это «одной из своих side jobs».

Что дальше: MI450 и шестинедельный цикл

Следующий большой релиз — MI450, который AMD планирует на вторую половину 2026 года. Параллельно команда ROCm ищет фичи, которые отличали бы стек от CUDA, а не просто закрывали отставание. Цель — релизный цикл в шесть недель и «невидимость» по образцу Chrome: версия не важна, потому что всё работает.

Параллельно AMD поглядывает в сторону ИИ-ассистированной разработки: сами инженеры ROCm используют LLM для генерации и валидации новых ядер. Это меняет экономику работы над стеком — то, на что раньше уходили месяцы, можно делать за дни, особенно для редких алгоритмических вариантов.

Итог

ROCm перестал быть «набором кусков» и превратился в стек, который AMD позиционирует как платформу на 10 лет вперёд. Главная ставка — не в том, чтобы конкурировать с CUDA по фичам, а в том, чтобы стать невидимым: разработчик не должен думать, на каком ускорителе он работает. На сегодняшний день этот сценарий хорошо работает на инференсе LLM; обучение, экосистема третьесторонних библиотек и инструментов профилирования у Nvidia всё ещё богаче — это и есть основной разрыв, который AMD предстоит закрывать.

Что делать сейчас: если вы выбираете железо под новый ИИ-проект, попробуйте развернуть vLLM на ROCm (AMD публикует готовые Docker-образы и инструкцию по установке) и сравнить токены в секунду. Если вы пишете GPU-ядра — посмотрите Triton: переписать ядро под него один раз дешевле, чем поддерживать две версии под CUDA и HIP.

Источник: EE Times — Taking on CUDA With ROCm: «One Step After Another» (эксклюзивное интервью с Анушем Элангованом, AMD).

Атака получила название GPUBreach и стала первым практическим доказательством того, что RowHammer-уязвимости в GPU-памяти позволяют не просто повредить данные, а полностью захватить машину.

• GPUBreach — первая атака, которая превращает bit-flips в GDDR6-памяти GPU в полную эскалацию привилегий до root на CPU
• Работает даже при включённом IOMMU — ключевом механизме аппаратной изоляции памяти
• Атака позволяет: извлечь криптографические ключи из NVIDIA cuPQC, деградировать точность ML-моделей до 80%, получить root shell
• Затрагивает облачные ИИ-инфраструктуры, мультитенантные GPU-кластеры и HPC-среды
• На десктопных/ноутбучных GPU (без ECC) защиты пока не существует

Что такое RowHammer и почему это касается GPU

RowHammer — известная с 2014 года проблема DRAM-памяти: многократное обращение к одной строке памяти вызывает электрические помехи, которые переворачивают биты в соседних строках (0→1 или 1→0). Это подрывает базовые гарантии изоляции памяти в операционных системах.

Производители DRAM внедрили аппаратные защиты — ECC (коды коррекции ошибок) и TRR (Target Row Refresh). Но до недавнего времени считалось, что GPU-память неуязвима для RowHammer из-за архитектурных особенностей.

В июле 2025 года те же исследователи из Университета Торонто показали GPUHammer — первую практическую RowHammer-атаку на NVIDIA GPU с GDDR6-памятью. Она использовала многопоточное параллельное «простукивание» для обхода архитектурных защит. Результат — деградация точности ML-моделей до 80%.

GPUBreach идёт дальше: от порчи данных — к полному захвату системы.

Как работает GPUBreach

Атака состоит из трёх этапов:

1. RowHammer на GPU page tables. Атакующий процесс (непривилегированный CUDA-ядро) вызывает bit-flips в таблицах страниц GPU-памяти, получая произвольный доступ на чтение/запись ко всей памяти GPU
2. Обход IOMMU. Скомпрометированный GPU отправляет DMA-запросы в область CPU-памяти, которую IOMMU разрешает — буферы драйвера NVIDIA. Повреждая доверенное состояние драйвера, атака эксплуатирует баги безопасности памяти в ядерном модуле NVIDIA
3. Эскалация до root. Через произвольную запись в ядро атакующий запускает root shell на хосте

GPUBreach показывает, что IOMMU недостаточно: повреждая доверенное состояние драйвера в буферах, разрешённых IOMMU, мы запускаем out-of-bounds запись на уровне ядра — полностью обходя защиту IOMMU без необходимости его отключать.

Ключевое отличие GPUBreach от параллельных исследований (GDDRHammer и GeForge): те тоже используют RowHammer на GPU page tables, но GPUBreach — единственная атака, которая достигает полной эскалации привилегий на CPU. GeForge требует отключённого IOMMU, GDDRHammer работает только на уровне GPU-памяти.

Что можно украсть

Через GPUBreach исследователи продемонстрировали три сценария:

• Утечка криптографических ключей из NVIDIA cuPQC (постквантовая криптографическая библиотека)
• Деградация ML-моделей — точность падает до 80% при работе на скомпрометированном GPU
• Root shell на хосте — полный контроль над машиной, включая доступ ко всем контейнерам и данным других пользователей

Это особенно критично для облачных ИИ-инфраструктур, где несколько клиентов делят одни и те же GPU. Атакующий в одном виртуальном окружении может получить доступ к данным и моделям соседей.

Как защититься

Единственная известная мера — включить ECC на GPU:

Если ECC выключен — включите (потребуется перезагрузка):

Но и ECC — не абсолютная защита:

• ECC корректирует 1-2 bit-flips, но атаки на DDR4/DDR5 уже показали возможность вызвать 3+ bit-flips — ECC такое не исправит
• На десктопных и ноутбучных GPU ECC недоступен — и защиты для них пока не существует
• Серверные GPU (A100, H100) поддерживают ECC, но его нужно явно включить

Выводы

GPUBreach меняет модель угроз для GPU-вычислений. До сих пор GPU-память считалась изолированной от CPU — теперь это не так. Атака работает даже при включённом IOMMU, который был последним рубежом аппаратной защиты.

Для команд, использующих GPU в продакшене: проверьте, включён ли ECC на ваших серверных GPU. Для облачных провайдеров — это сигнал пересмотреть модель изоляции мультитенантных GPU-инстансов. Для пользователей десктопных GPU — на данный момент защиты не существует.

Полное исследование опубликовано командой Гурураджа Сайлешвара из Университета Торонто.

Мне стало интересно: а можно ли на бесплатных мощностях, буквально "на коленке", собрать русскоязычного ИИ-рентгенолога? Спойлер: можно. В этой статье расскажу, как я скрестил Vision Transformer от Google с ruGPT-3 от Сбера, как боролся с датасетами на Kaggle и что из этого вышло. В конце — ссылки на GitHub и рабочее демо.

Архитектура: как пришить глаза к мозгу

Чтобы нейросеть могла посмотреть на снимок и написать текст, нужна архитектура Vision-Language Model. Обучать такого монстра с нуля у меня не было ни ресурсов, ни желания. Поэтому я пошел по пути Hugging Face VisionEncoderDecoderModel.

Идея проста как кирпич:

1. Энкодер (Глаза): Берем предобученный google/vit-base-patch16-224-in21k. Он отлично дробит картинку на патчи и извлекает визуальные фичи (понимает, где ребра, а где легкие).
2. Декодер (Язык): Берем ai-forever/rugpt3small_based_on_gpt2. У нее нет глаз, она умеет только генерировать текст.

Чтобы их сшить, пришлось немного "взломать" конфиг ruGPT-3, принудительно сказав ей: «Теперь ты декодер, и у тебя есть слои кросс-внимания» (is_decoder=True, add_cross_attention=True). Hugging Face заботливо создал новые пустые веса между двумя моделями. Именно эти связи мне и предстояло обучить.

Data Engineering: боль, страдания и Kaggle

Найти 7-10 тысяч рентгеновских снимков с подробными заключениями на русском языке в открытом доступе — задача нереальная.

Поэтому я взял открытый американский датасет Indiana University Chest X-Ray (IU X-Ray). Там есть картинки и тексты от американских врачей.

Прямо на Kaggle я поднял пайплайн машинного перевода на базе Helsinki-NLP/opus-mt-en-ru. Закинул тексты в GPU батчами по 32 штуки и за 10 минут перевел более 7000 медицинских заключений на вполне сносный русский медицинский язык.

Но тут платформа подкинула сюрприз: Kaggle прячет часть файлов в виртуальной файловой системе (снимков 7000, а стандартный скрипт видел только 4). Пришлось писать суровый маппинг с глубоким сканированием (os.walk), отрезать расширения и жестко связывать ID в CSV с реальными путями на диске.

Обучение: выжимаем все соки из бесплатных T4

Обучение проходило на Kaggle (2x NVIDIA T4). Чтобы модель не умерла от нехватки памяти (OOM), а сессия не отвалилась по тайм-ауту, пришлось шаманить:

• Включил Mixed Precision (fp16) — ускорило обучение в 2 раза.
• Настроил Gradient Accumulation — размер батча на видеокарту был всего 4, но виртуально мы накапливали до 16.
• Столкнулся с тем, что Seq2SeqTrainer крашится при попытке сохранить промежуточный чекпоинт мультимодального "франкенштейна". Решение? Выключить промежуточные сохранения (save_strategy="epoch") и молиться, чтобы Kaggle не завис. (Кстати, спасает JS-скрипт в консоли браузера, делающий клик раз в 60 секунд).

На 15 эпох ушло около 2.5 часов.

Что получилось в итоге? (Потрогать руками)

Получилась нейросеть, которая реально понимает, что изображено на рентгене, и сыпет терминами вроде «кальцифицированная гранулема» или «легочная васкулярность». Да, иногда она "галлюцинирует" (датасет в 7к снимков — это капля в море для ML), но базовые вещи вроде чистых легких или пневмоторакса сечет неплохо.

Я завернул модель в Gradio и выложил на Hugging Face Spaces. Можно зайти с телефона или ПК, загрузить любой снимок рентгена из гугла и посмотреть, что она выдаст.

👉 Потыкать лайв-демо тут: Hugging Face Space

👉 Весь код, пайплайны и веса тут: GitHub Репозиторий

Буду рад, если кому-то этот код сэкономит время при создании своих мультимодальных сеток. Залетайте в репу, ставьте звездочки, форкайте. Если есть идеи, как улучшить датасет (может, прогнать переводы через LLM для чистки медицинского сленга) — пишите в комменты!

(Дисклеймер: модель обучена в исследовательских целях за вечер. Не суйте ей свои снимки вместо похода к реальному врачу)

Rowhammer — класс атак, при которых многократное обращение к одной строке DRAM-памяти вызывает электрические помехи в соседних строках, переключая биты (0 → 1 и наоборот). До сих пор атаки целились в оперативную память CPU. Теперь три команды независимо доказали: видеопамять GPU уязвима не меньше — и последствия критичнее.

• Три независимых атаки — GDDRHammer, GeForge, GPUBreach — дают полную эскалацию привилегий до root через видеопамять
• Уязвимы карты RTX 3060 и RTX 6000 (архитектура Ampere). Новые поколения пока не проверены
• GDDRHammer: 129 bitflip-ов на банк памяти — в 64 раза больше, чем предыдущий рекорд GPUHammer (2025)
• GPUBreach работает даже с включённым IOMMU — обходит защиту через баги в драйвере Nvidia
• Защита: включить IOMMU в BIOS (от GDDRHammer/GeForge) и ECC на GPU. Активных атак в дикой природе не зафиксировано

По материалам Ars Technica.

Rowhammer: от CPU к GPU за 10 лет

Rowhammer-атаки впервые продемонстрировали в 2014 году на DDR3-памяти. За десятилетие техника эволюционировала: исследователи научились обходить ECC-защиту, атаковать DDR4 с Target Row Refresh, использовать Rowhammer для эскалации привилегий и кражи криптографических ключей.

В 2025 году GPUHammer впервые показал, что видеопамять GDDR тоже уязвима — но результаты были скромными: всего 8 bitflip-ов, достаточных лишь для деградации нейросети на целевом GPU. Три новых исследования превращают эту демонстрацию в полноценное оружие.

Три атаки: GDDRHammer, GeForge, GPUBreach

GDDRHammer: 129 bitflip-ов на банк

GDDRHammer (Graphics DDR + Greatly Disturbing DRAM Rows) работает на RTX 6000 архитектуры Ampere. Используя новые паттерны «хаммеринга» и технику memory massaging, атака вызывает в среднем 129 bitflip-ов на банк памяти — в 64 раза больше, чем GPUHammer годом ранее.

Через манипуляцию GPU page table атакующий получает произвольный доступ на чтение и запись ко всей памяти GPU. Затем — перенаправляет page table на память CPU, получая полный контроль над хост-машиной.

Rowhammer на видеопамяти GPU — такая же серьёзная угроза безопасности, как и на CPU. Все существующие аппаратные и программные защиты от Rowhammer на CPU недостаточны, если не учитывать угрозу со стороны GPU-памяти.

GeForge: 1171 bitflip на RTX 3060

GeForge (Hammering GDDR Memory to Forge GPU Page Tables for Fun and Profit) использует похожий подход, но манипулирует page directory вместо page table. Результат — 1171 bitflip на RTX 3060 и 202 на RTX 6000.

Proof-of-concept на RTX 3060 завершается открытием root-shell на хост-машине. По словам авторов, это первый GPU-side Rowhammer-эксплойт, достигающий эскалации привилегий на хосте.

GPUBreach: обход IOMMU

GPUBreach принципиально отличается от первых двух атак. GDDRHammer и GeForge требуют отключённого IOMMU (Input-Output Memory Management Unit — модуль, ограничивающий доступ устройств к памяти хоста; отключён в BIOS по умолчанию). GPUBreach, продемонстрированный на RTX A6000, работает даже с включённым IOMMU.

Атака эксплуатирует баги безопасности памяти в самом драйвере Nvidia. Даже когда IOMMU ограничивает прямой доступ GPU к памяти хоста, GPUBreach повреждает метаданные внутри разрешённых буферов. Драйвер, работающий с привилегиями ядра на CPU, выполняет out-of-bounds записи под контролем атакующего.

Memory massaging: как обойти защиту page table

Драйвер Nvidia хранит GPU page table в защищённой области низкоуровневой памяти, где bitflip-ы от Rowhammer невозможны. Все три атаки используют технику memory massaging — перемещение page table в незащищённые регионы.

GDDRHammer и GeForge сначала «истощают» стандартный пул аллокатора через sparse UVM-обращения, затем освобождают целевой фрейм памяти в нужный момент — так, чтобы драйвер разместил page table именно в уязвимом регионе. После этого Rowhammer переключает биты в записях page table, перенаправляя указатели на память атакующего.

Какие карты уязвимы и что делать

Подтверждённо уязвимы RTX 3060 и RTX 6000 архитектуры Ampere (2020). Карты Ada Lovelace и более новых поколений пока не исследованы — GDDRHammer не смог атаковать RTX 6000 Ada из-за нового типа GDDR, который исследователи не стали реверс-инженерить.

1. Включить IOMMU в BIOS — защищает от GDDRHammer и GeForge (но не от GPUBreach). По умолчанию IOMMU отключён для максимальной совместимости
2. Включить ECC на GPU командой nvidia-smi -e 1 — снижает объём доступной памяти, но затрудняет bitflip-ы
3. Следить за обновлениями драйверов Nvidia — компания опубликовала рекомендации по GPUHammer 2025 года, но патча для новых атак пока нет
4. Оценить риски для multi-tenant GPU-окружений — если несколько пользователей делят один GPU, атака возможна из непривилегированного CUDA-ядра

Активных атак Rowhammer в дикой природе не зафиксировано. Исследования носят академический характер, но демонстрируют реальную угрозу для shared GPU-инфраструктуры.

Три исследования показали: защита от Rowhammer на CPU бесполезна без аналогичной защиты на GPU. Пока атаки носят академический характер, но с ростом shared GPU-инфраструктуры для ИИ-вычислений угроза становится практически значимой. О других актуальных уязвимостях — в материалах про критические баги в Mongoose и supply chain атаки 2026 года.

Подробности об исследованиях GDDRHammer и GeForge — в материале Ars Technica.

Одним из поводов для разочарования в области аппаратных форматов изображений всегда было медленное развитие. Разработчики обычно не решались поставлять текстуры в новом формате, пока он не становился повсеместно доступным — поддерживался большинством целевого железа и всеми вендорами без исключения. Сегодня три вендора предлагают собственные форматы аппаратного сжатия текстур на лету: ARM AFRC, ImgTec PVRIC4 и Apple Metal Lossy. Игнасио Кастаньо исследовал все три и сравнил их с программным сжатием реального времени Spark от NVIDIA.

— ARM AFRC (Pixel 8, Mali-G715) — явный победитель: по метрике RMSE значительно обходит Spark и других конкурентов во всех форматах.

— Apple Metal Lossy (A15/M2+) — коэффициент сжатия 1:2, API минималистичен: один флаг в дескрипторе текстуры.

— ImgTec PVRIC4 (Pixel 10) разочаровал: драйвер игнорирует запрошенный bitrate, качество хуже Spark для R и RG форматов.

— Vulkan-расширение VK_EXT_image_compression_control унифицирует доступ к аппаратному сжатию через параметр BPC (bits per component).

— Аппаратное сжатие — перспективная альтернатива программному, но пока ограничено современными топовыми устройствами.

Контекст: почему это важно

Разработчики обычно не решались поставлять текстуры в новом формате, пока он не становился широко доступным — то есть поддерживался большинством целевого железа и всеми вендорами. Например, хотя ATI представила форматы 3Dc в 2004 году вместе с Radeon X800 (R420) и открыла их через расширения D3D9, их использование не стало распространённым, когда Direct3D 10 стандартизировал их как BC4 и BC5 в 2007 году. Массовое применение началось лишь тогда, когда Direct3D 10 стал минимальным требованием к железу.

Crysis стала первой крупной игрой, поставляемой с BC5-текстурами, но большинство игр ещё долгие годы не решались устанавливать такое жёсткое требование к железу. Чтобы избежать задержек с принятием, форматы BC6 и BC7 разрабатывались совместно ATI и NVIDIA для Direct3D 11.

Именно поэтому сжатие текстур в реальном времени так интересно: когда кодировщик работает в реальном времени, внедрять новые аппаратные форматы значительно проще — не нужно ждать, пока будет подготовлен контент, целенаправленно созданный под них. Аппаратное сжатие устраняет эту проблему принятия: детали форматов не документируются, их использование абсолютно прозрачно — приложению не нужно явно указывать эти форматы, драйвер сжимает текстуры динамически в процессе рендеринга и загрузки изображений.

Apple Metal: Lossy-сжатие

Apple представила сжатие текстур с потерями в чипах A15 и M2 (оба используют одно поколение GPU). Оно обеспечивает коэффициент сжатия 1:2. Включить его на удивление просто — API минималистичен. Свойство compressionType дескриптора MTLTextureDescriptor принимает значение из перечисления MTLTextureCompressionType, и установка MTLTextureCompressionTypeLossy зачастую является единственным необходимым изменением:

Согласно таблицам возможностей Metal Feature Set Tables, все обычные пиксельные форматы поддерживают сжатие с потерями — включая 10-битные и форматы с плавающей точкой. Тестирование это подтвердило, однако основное внимание сосредоточено на форматах R8, RG8 и RGBA8.

Внутренний алгоритм Apple не задокументирован. По результатам реверс-инжиниринга lossy-форматов используется размер блока 8×4 пикселя — и они напоминают некоторые особенности форматов ETC и EAC. Несмотря на заявленное сжатие 1:2, на практике для каждого блока выделяется один байт метаданных, так что реальное потребление памяти чуть выше заявленного.

Качество на M4 Pro

Для форматов R и RG Metal Lossy показывает результаты лучше кодеков Spark EAC, но хуже BC4 и BC5. Результаты RMSE (Root Mean Square Error — среднеквадратичная ошибка; меньше = лучше):

Формат R:

Формат RG:

Прямое сравнение lossy RGBA8 с форматами Spark некорректно из-за разных коэффициентов сжатия: Metal Lossy поддерживает только 1:2, тогда как форматы Spark RGB(A) — 1:4. Тем не менее, для полноты картины:

Формат RGBA:

Производительность на M4 Pro

С точки зрения производительности lossy-форматы показывают себя отлично и при достаточно большом размере текстуры упираются в пропускную способность памяти. Результаты на M4 Pro (16 ядер GPU) в МПикс/сек:

Обратите внимание, что пропускная способность стандартных блитов остаётся достаточно стабильной вне зависимости от размера текстуры. Кодеки Spark, напротив, имеют фиксированные накладные расходы, которые становятся заметнее при уменьшении размеров текстур. Интересен скачок скорости блитов при 512×512 — у него пока нет объяснения. Также стоит учесть, что кодеки Spark требуют дополнительного копирования из буфера вывода кодека в финальную сжатую текстуру — это дополнительные накладные расходы, которых можно было бы избежать, если бы Metal поддерживал запись в блочно-сжатые текстуры, как это делает Vulkan.

Vulkan: расширение VK_EXT_image_compression_control

В Vulkan расширение VK_EXT_image_compression_control даёт приложениям возможность запрашивать сжатие изображений с фиксированной скоростью. Расширение уже доступно на флагманских устройствах от ARM и Imagination. Включение потерявого сжатия в Vulkan несколько многословнее, чем в Metal, но на практике ненамного сложнее: нужно лишь расширить структуру VkImageCreateInfo, добавив в цепочку VkImageCompressionControlEXT.

Можно использовать флаг VK_IMAGE_COMPRESSION_FIXED_RATE_DEFAULT_EXT, чтобы позволить реализации самой выбрать параметры сжатия:

Альтернативно можно явно указать флаги фиксированной скорости для управления допустимыми коэффициентами сжатия:

BPC (bits per component — бит на компонент) — несколько нестандартная единица, но она позволяет задавать коэффициент сжатия единообразно вне зависимости от количества каналов. Для справки, BPC существующих форматов блочного сжатия GPU:

Расширение VK_EXT_image_compression_control также присутствует в некоторых драйверах AMD и Qualcomm, однако, насколько известно, ни один из этих вендоров не поддерживает аппаратное сжатие изображений с фиксированной скоростью. В случае AMD расширение присутствует в драйвере RADV, чтобы Proton мог отключать потерявое сжатие фреймбуфера в некоторых играх, где оно вызывало проблемы с корректностью — через флаг VK_IMAGE_COMPRESSION_DISABLED_EXT.

ARM AFRC: лучший результат среди всех

ARM Fixed Rate Compression (AFRC) было анонсировано в 2021 году и впервые появилось в Mali-G510 в 2022-м, однако широкого распространения этот дизайн не получил. По-настоящему массовым AFRC стало с выпуском Mali-G715 и Mali-G615 в том же году. Тестирование проводилось на Pixel 8 с GPU Mali-G715.

Устройство сообщило поддержку следующих форматов сжатия с фиксированной скоростью (возможности значительно шире Metal Lossy):

В отличие от Metal Lossy, AFRC не использует дополнительных байт метаданных — все управляющие биты находятся внутри самого блока. Изображение делится на блоки 8×8 пикселей, в ряде случаев разбиваемые на подблоки меньшего размера. Размер каждого блока 8×8 в байтах:

По результатам реверс-инжиниринга удалось установить: AFRC представляет цвета с использованием преобразования YCoCg, а представление пикселей напоминает вейвлет Хаара. Для каждого подблока 4×4 используется 16 коэффициентов, квантование которых зависит от режима. Форматы RGB и RGBA принципиально одинаковы — флаг в заголовке просто указывает, присутствует ли альфа-канал или блок полностью непрозрачен.

Качество AFRC

Качество AFRC впечатляет. В отличие от Metal, здесь можно сделать прямое сравнение с ASTC в реальном времени, поскольку Mali поддерживает сжатие 1:4:

Формат R:

Формат RG:

Формат RGBA:

Во всех случаях RMSE значительно ниже, то есть AFRC превосходит Spark ASTC при нацеливании на ASTC с кодировщиком реального времени. Тем не менее есть несколько случаев, когда Spark даёт более высокое качество: на очень гладких изображениях сжатие AFRC приводит к заметным паттернам дизеринга, раскрывающим границы блоков. Это особенно заметно при использовании AFRC в качестве текстуры с увеличением, тогда как для сжатия фреймбуфера — основного сценария применения — такие паттерны практически незаметны.

Производительность AFRC (Pixel 8)

Включение AFRC не вызывает значительных накладных расходов по сравнению с несжатыми загрузками текстур, за исключением некоторых размеров. Результаты на Pixel 8 в МПикс/сек:

Пропускная способность здесь масштабируется с размером текстуры, а не остаётся стабильной. Накладные расходы одинаково влияют на блиты и compute-шейдеры Spark. В отличие от секции Metal, где lossy-блиты явно доминировали над Spark на малых размерах, здесь картина смешанная: Spark вплотную приближается к AFRC или превосходит его. Это показывает, что кодирование текстур в реальном времени вполне конкурентоспособно с аппаратным сжатием. Абсолютные числа здесь значительно ниже, чем на M4 Pro, — это принципиально разные классы устройств.

ImgTec PVRIC4: разочарование от Pixel 10

ImgTec впервые анонсировала поддержку PVRIC4 ещё в 2018 году для GPU серии Series 6, однако протестировать её удалось только с выходом Pixel 10 на чипе Series D. Первоначальное объявление намекало на то, что, как и Metal Lossy, PVRIC4 поддерживает только 50%-е сжатие, но расширение декларирует более широкий спектр опций:

К большому удивлению, качество вывода оказалось одинаковым вне зависимости от BPC. Дальнейшее расследование показало: драйвер игнорирует запрошенный BPC и всегда использует 4 bpc (сжатие 1:2). Формат блоков PVRIC4 — наиболее сложный из всех трёх вендоров: размер блоков составляет 16×16 пикселей, и, как в Metal Lossy, присутствует один байт метаданных на блок. Сделать реверс-инжиниринг практически не удалось.

Качество PVRIC4

Качество оказалось разочаровывающим. Для форматов R и RG Spark фактически превосходит PVRIC4 при нацеливании на стандартные форматы блочного сжатия, поддерживаемые этим железом:

Формат R:

Формат RG:

Для RGBA прямое сравнение невозможно из-за разных коэффициентов сжатия, но качество также значительно хуже других вендоров:

Формат RGBA:

Производительность PVRIC4 (Pixel 10)

Кривая пропускной способности на этом устройстве существенно отличается от Pixel 8: пик приходится на размеры 1024–2048, а не монотонно возрастает с размером. На больших размерах пропускная способность Spark фактически выше, чем у несжатых загрузок текстур. Это характерно для устройств, ограниченных пропускной способностью памяти: обычный блит должен прочитать всё входное изображение и записать обратно тот же объём данных, тогда как Spark записывает лишь 1/4 входных данных. Экономия на записи зачастую перекрывает вычислительные затраты кодирования.

Комментарий PowerVR Dev (ImgTec)
PVRIC4 поддерживает только сжатие 1:2. TFBC (доступен исключительно в чипах Rogue XE) поддерживал соотношения 1:2, 1:4 и 1:3. Дизайн расширения был спорным — многим не нравилась многословность выбора BPC, поэтому было решено экспонировать все BPC в рамках поддерживаемых соотношений и повышать их до поддерживаемого ratio. Это считалось допустимым, поскольку качество не деградирует относительно запроса приложения, а приложение всё равно обязано запрашивать реальный размер изображения, который не гарантирует уменьшения.

Spark: программная точка отсчёта

Spark — библиотека NVIDIA для программного сжатия текстур в реальном времени. Работает на GPU как compute shader, поддерживает форматы BC1–BC7 и ASTC. В тесте выступает базовой точкой сравнения как лучшее доступное программное сжатие без специализированного железа.

Spark показывает стабильные результаты по форматам, но требует явного вызова compute-прохода — это дополнительный этап в пайплайне. Аппаратное сжатие, напротив, встроено в рендеринг и не требует дополнительного кода. Отдельный плюс Spark — предсказуемое и согласованное поведение на всех устройствах, что важно, если унифицированный вывод критичен для вашего сценария. Ни один из форматов аппаратного сжатия пока не доступен через WebGPU — если это изменится, расширить spark.js для их поддержки будет несложно.

Итоги: кто победил

ARM AFRC — явный победитель. Это не только превосходит программные реализации вроде Spark, но и обходит все остальные форматы по всем метрикам. Итоговая таблица RMSE по всем протестированным форматам:

Стоит оговориться: результаты PVRIC4 могут не отражать полного потенциала железа — драйвер игнорирует запрошенный коэффициент сжатия и всегда использует 1:2. Возможно, эти результаты удастся пересмотреть после исправления проблемы.

Аппаратное сжатие — убедительная альтернатива программному. Главная оговорка — оно сейчас ограничено современными топовыми устройствами, которые как раз и располагают наибольшим объёмом памяти и пропускной способностью.

Даже когда нативное аппаратное сжатие доступно, есть веские причины продолжать использовать Spark. Вывод аппаратного сжатия различается у разных вендоров, и в некоторых случаях — как мы видели с PVRIC4 — качество уступает кодировщику реального времени. Если для вашего сценария критичен единообразный и предсказуемый вывод на всех вендорах, Spark остаётся правильным выбором.

ZINC (Zig INferenCe Engine) — inference-движок для больших языковых моделей, написанный на Zig и работающий через Vulkan API без зависимости от ROCm или CUDA. GGUF (формат хранения весов LLM, используемый в llama.cpp и Ollama) — единственный поддерживаемый формат моделей. Проект на ранней стадии: 149 звёзд на GitHub, около 5000 строк Zig и 2000 строк GLSL-шейдеров.

— ZINC — inference engine на Zig + Vulkan для AMD GPU (RDNA3/RDNA4)

— Загружает модели в формате GGUF, поддерживает квантизации Q4_K–F16

— Текущая скорость: 10 tok/s decode на Qwen3.5-35B-A3B, 7 tok/s на Qwen3.5-2B

— ~5000 строк Zig + 2000 строк GLSL-шейдеров — можно прочитать целиком

— Комьюнити указывает на неточности в README и возможный vibecoding

Что умеет ZINC

Движок загружает модели в формате GGUF (нативный парсер на Zig), маппит веса в VRAM видеокарты и выполняет decode-цикл трансформера. Список протестированных моделей пока узкий — автор публикует только те, что прошли полную валидацию. Поддерживаемые квантизации: Q4_K, Q5_K, Q6_K, Q8_0, F16.

Результаты на AMD Radeon AI PRO R9700 (RDNA4, 32 ГБ VRAM) — это профессиональная карта, не потребительская:

• Qwen3.5 2B Q4_K_M — 8,33 tok/s prefill, 7,17 tok/s decode
• Qwen3.5 35B-A3B UD Q4_K_XL (MoE-модель) — 12,67 tok/s prefill, 10,10 tok/s decode

Для сравнения: Vulkan-бэкенд llama.cpp на аналогичном железе и той же модели показывает около 127 tok/s — разница примерно в 12 раз. Автор ZINC объясняет это узким местом: 120 GPU-синхронизаций на токен (по одной на слой). Исправление — запись всего decode-графа в один command buffer — в работе.

Почему Zig и Vulkan

Автор проекта объясняет выбор стека: горячий путь — это Vulkan API-вызовы, управление GPU-памятью и запись command buffer'ов. Чистая системная работа, для которой Zig подходит хорошо благодаря нескольким возможностям языка:

• @cImport — прямой доступ к Vulkan C ABI без генераторов биндингов
• comptime — генерация dispatch-таблиц для каждой квантизации на этапе компиляции
• errdefer — автоматическое освобождение GPU-ресурсов при ошибках
• zig build — компиляция GLSL-шейдеров в SPIR-V встроена в систему сборки

Итог — один бинарник из одной команды. Кодовая база достаточно компактна (~7000 строк), чтобы прочитать целиком и понять, как устроен inference.

Как попробовать

Для сборки нужны Zig 0.15.2+ (это dev/nightly-версия, не стабильный релиз), Vulkan SDK и компилятор GLSL-шейдеров (glslc). На Linux с RDNA4 важно использовать системную версию glslc — новые релизы могут вызвать регрессию производительности.

Флаг RADV_PERFTEST=coop_matrix включает поддержку кооперативных матричных операций в драйвере Mesa RADV — без него производительность на RDNA4 будет значительно ниже. Команда --check проверяет Vulkan-устройство, скомпилированные шейдеры и совместимость GGUF-файла.

Что говорит комьюнити

Тред на r/LocalLLaMA набрал 68 комментариев, и реакция скептическая. Разберём основные претензии.

Неточности в README

README заявляет, что «ROCm не поддерживает потребительские карты — только MI-серию для дата-центров». Это неверно: AMD добавила поддержку RDNA3 в ROCm осенью 2023 года. Как отметил один из комментаторов: «Утверждение вроде этого в описании проблемы говорит о том, что разработчики не понимают рынок, под который строят продукт». Справедливости ради, поддержка ROCm для потребительских карт остаётся неполной — например, библиотеки Composable Kernel и Aiter до сих пор работают только с CDNA.

Разрыв в скорости с llama.cpp

Разработчик KoboldAI henk717 провёл детальный разбор. По его данным, Vulkan-бэкенд llama.cpp выдаёт 107 tok/s там, где ZINC показывает 7,6 tok/s. При этом README позиционирует llama.cpp как решение, которое «относится к RDNA4 как к второстепенному». Независимые бенчмарки из обсуждений llama.cpp на GitHub показывают ещё более высокие цифры — до 127 tok/s на R9700.

Также henk717 указал на противоречие: README обещает «обслуживание 4+ пользователей» с TurboQuant KV-кешем, но в таблице статуса проекта обе фичи (continuous batching и TurboQuant) помечены как нереализованные.

Vibecoding: стоит ли волноваться?

Несколько пользователей обратили внимание на признаки того, что проект написан с помощью ИИ: в репозитории есть .claude и CLAUDE.md, README содержит противоречия между заявленными и реализованными возможностями. Само по себе использование ИИ-инструментов для кодинга — нормальная практика в 2026 году. Проблема в другом: если ИИ написал README с ложными утверждениями, а автор не проверил — это вопрос к качеству инженерного процесса, а не к инструменту.

Зачем за этим следить

Потребительские AMD GPU стоят $500–1500 (против $10 000–15 000 за MI300X для дата-центров) и имеют 16–32 ГБ VRAM. Железо для inference есть у миллионов пользователей — нет хорошего софта. ZINC пока далёк от решения этой проблемы, но сам подход — нативный Zig с ручной настройкой Vulkan-шейдеров под конкретную архитектуру GPU — инженерно обоснован.

На текущий момент для inference на AMD GPU llama.cpp через Vulkan остаётся лучшим вариантом: в 12 раз быстрее, поддерживает десятки моделей, стабильный. ZINC имеет смысл отслеживать тем, кто интересуется низкоуровневой оптимизацией GPU или Zig как системным языком.

Выводы

ZINC — ранний эксперимент по созданию inference-движка на Zig + Vulkan для AMD GPU. Идея — использовать потребительские RDNA3/RDNA4 для LLM без ROCm — здравая. Реализация пока сырая: разрыв с llama.cpp в 12 раз по скорости, неточности в документации, незавершённые фичи.

Для практического использования прямо сейчас — llama.cpp через Vulkan. Для наблюдения и изучения подхода — ZINC интересен как пример того, как Zig и Vulkan работают вместе для GPU-вычислений.

Ссылки: GitHub-репозиторий ZINC | Обсуждение на r/LocalLLaMA

ATLAS (Adaptive Test-time Learning and Autonomous Specialization) — open-source система, которая оборачивает замороженную квантизированную модель Qwen3-14B в трёхфазный пайплайн генерации, верификации и починки кода. На бенчмарке LiveCodeBench v5 (599 из 880 задач) система набрала 74,6% — против 71,4% у Claude Sonnet 4.5.

— ATLAS набирает 74,6% на LiveCodeBench v5, используя замороженную Qwen3-14B на одной RTX 5060 Ti за ~$430

— Базовая модель набирает лишь ~55% — пайплайн добавляет почти 20 п.п. за счёт генерации нескольких решений, тестирования и починки

— Стоимость — ~$0,004 за задачу (электричество) против ~$0,066 за вызов API Claude Sonnet

— Сравнение не прямое: ATLAS использует best-of-3 + итеративную починку, а Claude тестировали в режиме single-shot на другом наборе задач

— На других бенчмарках (GPQA Diamond — 47%, SciCode — 14,7%) ATLAS значительно уступает фронтирным моделям

Автор проекта, студент Исаак Тиггес, собрал всё это на одной потребительской видеокарте RTX 5060 Ti 16 ГБ. Весь инференс локальный — данные не покидают машину, API-ключи не нужны.

Как работает ATLAS

ATLAS — это не новая модель, а инженерная обвязка вокруг существующей. В основе — замороженная квантизированная Qwen3-14B-Q4_K_M от Alibaba, запущенная через патченный llama-server на K3s. Система работает в три фазы:

Фаза 1: генерация

PlanSearch извлекает ограничения из задачи и генерирует несколько различных планов решения. BudgetForcing контролирует количество thinking-токенов. DivSampling обеспечивает разнообразие кандидатов. На выходе — три варианта решения (k=3).

Одна эта фаза поднимает результат с 54,9% до 67,3% — прирост 12,4 процентных пункта.

Фаза 2: отбор лучшего кандидата

Geometric Lens — компонент, который оценивает качество каждого кандидата по внутренним представлениям модели и отправляет лучшего на исполнение в песочницу.

Важный нюанс: в текущей версии эта фаза не дала прироста (+0,0 п.п.), потому что C(x) обучалась всего на ~60 примерах — слишком мало для осмысленного энергетического ландшафта. Автор планирует исправить это в V3.1.

Фаза 3: починка провалов

Если все кандидаты провалились, модель генерирует собственные тест-кейсы и запускает PR-CoT (multi-perspective chain-of-thought repair) — итеративную починку через рассуждение с нескольких точек зрения. Модель никогда не видит правильные ответы — только свои собственные тесты.

PR-CoT спасает 36 из 42 задач, попавших в фазу починки — 85,7% успеха. Суммарный прирост фазы 3 — ещё 7,3 п.п.

Бенчмарки: что показывают цифры

Результаты ATLAS V3 на трёх бенчмарках:

Метрика pass@1-v(k=3) означает, что для каждой задачи генерируются три кандидата, из которых выбирается лучший. Это значительно легче, чем классический pass@1, где модель даёт ровно один ответ без права на повторную попытку.

Для контекста — сравнение стоимости и результата на LiveCodeBench:

Почему сравнение не совсем честное

Автор ATLAS сам признаёт ключевое ограничение: сравнение — не контролируемый head-to-head.

• ATLAS тестировали на 599 задачах LiveCodeBench v5, а Claude — на 315 задачах из данных Artificial Analysis. Это разные наборы задач
• ATLAS генерирует три кандидата, отбирает лучшего и итеративно чинит провалы. Claude тестировали в режиме single-shot (один запрос, один ответ, без повторов)
• ATLAS оптимизировался именно под LiveCodeBench — на GPQA Diamond (47%) и SciCode (14,7%) результаты значительно скромнее
• Метрика ATLAS — pass@1-v(k=3), а не классический pass@1. Это принципиально разные вещи

Как отмечает Fordel Studios, бенчмарки измеряют способность решать изолированные задачи с чёткими условиями — это около 5% того, что важно в продакшене. Остальные 95% — длинный контекст, неоднозначные требования, мультишаговое планирование.

Что действительно впечатляет

Несмотря на оговорки, проект демонстрирует несколько важных вещей:

1. Инженерия побеждает масштаб. Базовая Qwen3-14B набирает ~55% — пайплайн ATLAS добавляет почти 20 п.п. без единой строчки файнтюнинга. Это чистая системная инженерия
2. Порог входа падает. Два года назад для локального инференса нужна была видеокарта за $2000+. Сегодня — RTX 5060 Ti за ~$430. Через два года это может быть карточка за $200
3. Полная автономность. Данные не покидают машину. Нет API-ключей, нет счетов, нет зависимости от провайдера. Для сценариев с чувствительными данными — это принципиально
4. Стоимость. ~$0,004 за задачу (электричество при $0,12/кВт·ч) — в 16 раз дешевле одного вызова Claude Sonnet API

Ограничения и планы

Автор честно документирует проблемы текущей версии:

• Geometric Lens (фаза 2) не работает — обучалась на 60 примерах, что слишком мало
• Метрический тензор G(x) неактивен — будет переработан или удалён в V3.1
• Задачи обрабатываются последовательно — нет параллелизма
• Баг SandboxAdapter со stdin — не работает tiebreaking через distinguishing input
• Система оптимизирована только под LiveCodeBench — кросс-доменная генерализация на повестке V3.1

В версии V3.1 планируется переход на Qwen3.5-9B с архитектурой DeltaNet (ускорение в 3–4 раза), переобучение Geometric Lens, параллелизация задач и расширение набора бенчмарков. Целевой результат — 80–90% на LiveCodeBench.

Требования к железу

Проект пока не plug-and-play — V3.1 обещает улучшить портативность. На текущий момент настройка под конкретное железо может потребовать ручной работы с параметрами: количество параллельных слотов, квантизация KV-кеша, размер контекста на слот.

Выводы

ATLAS — впечатляющая демонстрация того, как системная инженерия может компенсировать разрыв в масштабе моделей. Студент, одна видеокарта за $430, замороженная open-source модель — и результат, который на конкретном бенчмарке обходит коммерческую фронтирную модель.

Но важно не путать бенчмарк-результат с готовностью к продакшену. ATLAS решает задачи LiveCodeBench, генерируя и перебирая варианты. Фронтирные модели решают принципиально другой класс задач — работа с огромным контекстом, понимание неоднозначных требований, мультишаговое планирование.

Бенчмарки измеряют, может ли модель решить игрушечную задачу. Продакшен измеряет, может ли она думать.

Настоящий сигнал здесь — не в том, что локальный инференс «победил» облачный ИИ. А в том, что порог доступа к мощному ИИ-инференсу продолжает стремительно падать. Если у вас есть NVIDIA GPU с 16+ ГБ VRAM — попробуйте ATLAS на своих задачах и оцените результат.

Источники: ATLAS на GitHub (1,2K звёзд) · LiveCodeBench Leaderboard · обсуждение на Hacker News · анализ Fordel Studios

Мы разобрались. Объясняем так, чтобы было понятно всем — и тем, кто пишет нейросети, и тем, кто просто хочет запустить ChatGPT-подобную модель на своём ноутбуке.

TurboQuant — алгоритм квантизации KV-кеша для больших языковых моделей (LLM), разработанный Google Research. Сжимает KV-кеш с 16 до 3 бит на значение, уменьшая потребление памяти при инференсе в 5–6 раз без переобучения модели и без потери качества. Представлен на ICLR 2026 (arXiv:2504.19874).

KV-кеш: почему нейросетям нужно столько памяти

Когда вы общаетесь с ChatGPT, Gemini или любой другой LLM, модель должна «помнить» весь ваш диалог. Для этого она использует KV-кеш (Key-Value cache) — специальный буфер в памяти видеокарты, где хранятся промежуточные вычисления механизма внимания (attention).

Представьте: вы читаете книгу и делаете заметки на полях. KV-кеш — это те самые заметки. Без них модели пришлось бы каждый раз перечитывать весь текст с начала, чтобы ответить на ваш вопрос.

Проблема в масштабе:

• Модель Llama 3.1 70B при контексте 128K токенов тратит ~40 ГБ только на KV-кеш — это больше, чем весит сама модель в квантизированном виде
• Чем длиннее контекст (переписка, документ, код) — тем больше памяти нужно, и это растёт линейно
• Именно KV-кеш — главный ограничитель того, сколько текста модель может «видеть» одновременно

И именно KV-кеш сжимает TurboQuant.

Что такое TurboQuant

TurboQuant — это алгоритм сжатия KV-кеша, разработанный Google Research. Статья принята на ICLR 2026 — одну из топовых конференций по машинному обучению. Авторы — Amir Zandieh, Vahab Mirrokni (VP Google, известный исследователь в области алгоритмов) и коллеги.

• Сжимает KV-кеш до 3 бит на значение (с обычных 16) — уменьшение в ~5 раз
• Не требует дообучения модели — работает с любой LLM «из коробки»
• Не теряет качество на стандартных бенчмарках (LongBench, Needle in a Haystack, RULER)
• Ускоряет вычисления attention до 8 раз на NVIDIA H100
• Работает «на лету» — не нужно заранее обрабатывать данные

Важно: TurboQuant сжимает только KV-кеш при инференсе. Он НЕ сжимает веса модели (это делают GPTQ, AWQ, GGUF) и НЕ влияет на обучение. Это принципиально другая задача.

Как работает TurboQuant: PolarQuant и QJL простыми словами

TurboQuant работает в два этапа. Если упрощать — это как сжатие фотографии в JPEG, только для математических векторов в памяти нейросети.

Шаг 1: PolarQuant — умное сжатие основных данных

Обычно данные в нейросети хранятся в декартовых координатах — как «иди 3 блока на восток и 4 блока на север». PolarQuant переводит их в полярные координаты — «иди 5 блоков под углом 37 градусов». Перед конвертацией вектор случайным образом поворачивается — это делает распределение координат более однородным.

В полярных координатах данные распределены более предсказуемо. Это позволяет применить оптимальный квантизатор (Lloyd-Max) к каждой координате независимо, без дополнительных битов на хранение параметров квантизации. В обычных методах эти «служебные» биты съедают 1–2 бита на число — при 3-битной квантизации это колоссальные накладные расходы.

Шаг 2: QJL — коррекция ошибок за 1 бит

После PolarQuant остаётся небольшая ошибка. QJL (Quantized Johnson-Lindenstrauss) — алгоритм, который использует математическое преобразование Джонсона–Линденштрауса для сведения остаточной ошибки к нулевому смещению, тратя на это всего 1 дополнительный бит.

Если PolarQuant — это основной «сжиматель», то QJL — это математический «корректор», который гарантирует, что attention-скоры модели остаются точными. Вместе они дают 3-битное представление, которое математически доказано как близкое к теоретическому пределу сжатия (с точностью до константы ~2,7).

Чем TurboQuant отличается от обычной квантизации

Если вы запускаете модели через llama.cpp, Ollama или LM Studio, вы уже используете квантизацию — те самые Q4, Q5, Q8 в названиях файлов. Но это квантизация весов модели. TurboQuant работает с совершенно другой сущностью.

Квантизация весов (GPTQ, AWQ, GGUF) — сжимает параметры модели один раз перед запуском. Чем меньше бит — тем хуже качество. Иногда требует калибровки или дообучения.

TurboQuant — сжимает KV-кеш (промежуточные вычисления) на лету во время работы. При 3,5 битах — нулевая потеря качества. Не требует дообучения вообще.

Эти подходы комплементарны. Вы можете использовать Q4-квантизированную модель И TurboQuant-сжатый KV-кеш одновременно. Одно не заменяет другое — они сжимают разные части системы.

TurboQuant на практике: MacBook, видеокарты и облако

Если у вас MacBook или обычный ПК

Энтузиасты уже запустили Qwen 3.5 9B на обычном MacBook Air M4 (16 ГБ) с контекстом 20 000 токенов — раньше на таком железе длинные контексты были невозможны. Не MacBook Pro, не Mac Studio — обычный Air, самая дешёвая конфигурация. В Reddit-треде есть видео-демо.

Это значит: локальная нейросеть на вашем ноутбуке сможет «видеть» в 5 раз больше текста за раз. Длинные документы, полноценные кодовые базы, многостраничные переписки — всё это становится доступнее без покупки нового железа.

Если у вас мощная видеокарта

Один из разработчиков рассчитал для модели 70B Q4_K_M с 34 ГБ свободной VRAM под KV-кеш:

• Без TurboQuant (FP16 KV-кеш): ~109K токенов контекста
• С Q8 KV-кешем: ~218K токенов
• С TurboQuant TQ3 (3 бита): ~536K токенов
• Полное окно контекста 262K легко помещается на 3× RTX 3090

Если вы разрабатываете ИИ-продукты

• В 5–6 раз меньше GPU-памяти на инференс при длинных контекстах
• До 8× ускорение attention на H100
• Снижение стоимости обслуживания каждого запроса к LLM

Парадокс Джевонса: когда ресурс становится дешевле — его используют больше, а не меньше. Дешёвый инференс = больше компаний внедряют ИИ = спрос на железо в итоге растёт.

TurboQuant в llama.cpp, MLX и PyTorch: кто уже пробует

Прошло всего несколько дней с публикации, но Open Source сообщество уже на коне:

• llama.cpp — минимум 3 независимых реализации, обсуждение интеграции в основную ветку. Одна уже работает на Apple Silicon через Metal
• MLX (Apple Silicon) — разработчики адаптируют алгоритм для маков
• PyTorch + Triton — появились reference-реализации для CUDA-видеокарт
• C/CUDA — рабочая реализация с 18 из 18 пройденных тестов, MSE совпадает с бумагой

Пока реализации не оптимизированы. Бенчмарки показывают падение скорости генерации в 3–8 раз по сравнению с обычным Q8 KV-кешем. Причина — неоптимизированная операция поворота вектора. Разработчики уже работают над оптимизацией через преобразование Адамара.

Как попробовать TurboQuant прямо сейчас

Официального кода от Google нет, но сообщество уже сделало несколько рабочих реализаций. Вот как запустить TurboQuant на своём железе — три варианта в зависимости от платформы.

На Mac (Apple Silicon M1–M5)

Форк llama-cpp-turboquant от TheTom — самая зрелая реализация с Metal-ядрами для Apple Silicon. Работает на M1, M2, M3, M4, M5.

Флаг turbo3 включает 3,5-битную квантизацию KV-кеша (сжатие 4,6× vs FP16). На M5 Max 128 ГБ модель Qwen3.5-35B показывает 2747 tok/s на prefill — на уровне стандартного q8_0, при этом KV-кеш занимает в 4,6 раза меньше памяти.

На PC с видеокартой NVIDIA или AMD

Форк llama-turboquant поддерживает CUDA и ROCm. Тип кеша здесь называется tq3_0 (вместо turbo3).

Python (для исследований и экспериментов)

turboquant-pytorch — reference-реализация на PyTorch. Подойдёт для изучения алгоритма и проверки сжатия на своих моделях.

Ollama и LM Studio пока не поддерживают TurboQuant — они используют свои сборки llama.cpp, в которые метод ещё не влит. Но можно поднять llama-server из форка выше и подключиться к нему как к OpenAI-совместимому API.

Бенчмарки TurboQuant: результаты из бумаги и от сообщества

Из бумаги Google (тестировалось на Gemma и Mistral):

• LongBench, Needle in a Haystack, ZeroSCROLLS, RULER, L-Eval — при 3,5 битах «абсолютная нейтральность качества»
• При 2,5 битах — «маргинальная деградация»
• 4-bit TurboQuant: ускорение attention до 8× на H100 по сравнению с 32-bit baseline
• Сжатие KV-кеша минимум в 6 раз

Из независимых реализаций:

• TQ3 (3 бита): MSE = 0,034, сжатие 4,9× vs FP16
• TQ4 (4 бита): MSE = 0,009, сжатие 3,8× vs FP16
• Размер блока: 52 байта на 128 значений (для TQ3)

Почему TurboQuant обвалил акции Micron — и стоит ли переживать

Рынок отреагировал панически: Micron −25%, Samsung −4,7%, SK Hynix −6,2%. Но аналитики Morgan Stanley, JPMorgan, Citigroup и Goldman Sachs единодушны — реакция чрезмерна. Вот почему:

1. TurboQuant не трогает обучение. HBM-память, основной драйвер прибыли чипмейкеров, нужна для обучения моделей. TurboQuant сжимает только инференс
2. Это исследование, не продукт. Официального кода от Google нет, эксперименты на моделях ~8B параметров
3. Прецедент DeepSeek. В январе 2025 тоже обвалили чипмейкеров — затем спрос только вырос
4. Фиксация прибыли. Micron был +300% за год, Samsung +200%. Инвесторы искали повод зафиксировать прибыль

Если TurboQuant снизит операционные расходы на ИИ до одной шестой от текущего уровня, компании, которые до сих пор не внедряли ИИ из-за высокой стоимости, войдут в ИИ-экосистему.

Подробнее о реакции рынка — в нашей новости.

Часто задаваемые вопросы

Чем TurboQuant отличается от GGUF/GPTQ/AWQ?
GGUF, GPTQ и AWQ сжимают веса модели (параметры). TurboQuant сжимает KV-кеш — временную рабочую память, которая используется во время инференса. Эти подходы дополняют друг друга.

Можно ли уже использовать TurboQuant?
Экспериментально — да. Несколько независимых реализаций для llama.cpp и MLX уже работают. Но в основную ветку llama.cpp и в Ollama/LM Studio метод пока не интегрирован. Ожидается в ближайшие недели–месяцы.

Нужно ли переобучать модель для TurboQuant?
Нет. TurboQuant — data-oblivious метод, который применяется к любой существующей LLM без дообучения и без калибровочных данных.

TurboQuant: итоги и выводы

• TurboQuant — прорыв в сжатии KV-кеша, но не «убийца GPU» и не «конец эпохи дорогого железа»
• Работает вместе с обычной квантизацией весов, а не вместо неё
• Реально позволяет запускать более длинные контексты на том же железе — в 5 раз длиннее
• Сообщество уже пишет реализации для llama.cpp и MLX
• До полноценного внедрения в популярные инструменты — недели или месяцы
• Обвал акций — чрезмерная реакция, аналитики рекомендуют покупать на падении

Следите за GitHub-дискуссией в llama.cpp — именно там появится рабочая реализация для повседневного использования. А блог Google Research и бумага на arXiv — для тех, кто хочет погрузиться в математику.

Компания оформила их в виде привычных минимальных и рекомендуемых требований. Примерно так же делают разработчики игр перед релизом. Да и пользователям Steam такой подход должен быть знаком.

Документ охватывает процессоры, видеокарты, оперативную память, накопители и даже мониторы. Цель гайда — помочь пользователям собрать сбалансированную систему, не переплачивая за избыточную мощность.

Процессоры и видеокарты: три уровня для разных сценариев

Microsoft делит игровые ПК на три условных класса. Для игр в 1080p на средних настройках компания рекомендует:

• CPU: современные четырех- или шестиядерные процессоры, например Ryzen 5 5600 или Core i5-12400;
• GPU: GTX 1660 Super или Radeon RX 6600.

Для 1440p и высоких настроек:

• CPU: минимум 6 ядер — Ryzen 5 7600 или Core i5-13600K;
• GPU: RTX 3060 Ti / 4060 Ti или Radeon RX 6700 XT.

Для 4K-гейминга:

• CPU: 8 ядер и больше, например Ryzen 7 7800X3D или Core i7-13700K;
• GPU: RTX 4080 или Radeon RX 7900 XTX.

При этом Microsoft уточняет, что при высоких разрешениях основная нагрузка ложится именно на видеокарту, а не на процессор. Поэтому слепо гнаться за топовым CPU не всегда имеет смысл.

Game Mode, память и накопители

Отдельно компания напоминает о Game Mode в Windows 11. По словам Microsoft, он снижает фоновую активность системы и приоритизирует игровые процессы, помогая стабилизировать частоту кадров.

По памяти рекомендации довольно приземленные:

• 16 ГБ ОЗУ — достаточно для большинства современных игр;
• 32 ГБ — для тяжелых проектов, модов и параллельных задач.

Для хранения игр Microsoft советует SSD от 1 ТБ, подчеркивая важность NVMe-накопителей.

Они позволяют использовать технологию DirectStorage, при которой данные загружаются напрямую в видеокарту, сокращая загрузки и подгрузки уровней.

Мониторы и здравый смысл

В гайде есть и советы по выбору мониторов. Microsoft считает 144 Гц оптимальным минимумом, а 165–240 Гц — актуальными для соревновательных игр. Также компания рекомендует учитывать время отклика и тип матрицы — IPS, VA или OLED.

Отдельный акцент сделан на простом, но часто игнорируемом моменте: нет смысла покупать железо под 240 fps, если монитор физически не может их показать. Да, очевидно. Но кто-то этот момент может и упустить.

Происходящее привело к тому, что компания официально предупредила партнеров: производство, а также поставки SSD и другой продукции, завязанной на памяти, приостановлены. Причина прозаична — выпускать стало просто нечего.

Проблемы тянутся еще с октября, когда поставки NAND от ключевых производителей — Samsung и SanDisk — внезапно остановились. Цепочка разорвалась и пошли массовые перебои. Из-за этого срывались контракты, а заказы невозможно было выполнить.

В письме партнерам Transcend говорит о «небывалой скорости удорожания» и полном дефиците компонентов. Главный виновник — стремительный рост спроса со стороны ИИ-платформ и облачных дата-центров.

Amazon, Microsoft и другие крупные игроки выкупают огромные объемы NAND под собственные кластерные потребности. На традиционный рынок уходят жалкие остатки и цены там взлетают до небес.

Производители уходят с рынка один за другим

Кризис уже выбивает старых игроков. Crucial — один из самых известных брендов SSD и оперативной памяти — фактически закрывает потребительское направление.

Как пишет CNews, компания уже убрала из продажи большую часть ассортимента, а выпуск SSD прекратит до апреля 2026 года.

Micron, владелец Crucial, объясняет решение нестабильностью бизнеса. Спрос смещается в промышленный и серверный сегменты, а массовые устройства тонут в дефиците и дорожающих компонентах. По словам компании, рынок «разрывает» спрос со стороны ИИ-кластеров и ферм на базе GPU NVIDIA и AMD. Туда же утекают NAND и DRAM.

Дефицит будет только усиливаться

Transcend не считает происходящее временным. Компания ждет, что давление на цепочки поставок сохранится еще минимум от трех до пяти месяцев, а пик кризиса придется на конец 2025 — начало 2026 года.

Это подтверждают и отраслевые источники. SanDisk уже подняла контрактные цены на NAND на 50%. Innolux и Apacer предупредили партнеров о срыве поставок и невозможности выполнять обязательства.

Поднимая модель внутри своего контура, вы получаете контроль и автономию. Данные не уходят на сервер третьей стороны и можно спокойно работать с чувствительными данными и внутренними документами под NDA, не рискуя, что они утекут в логах провайдера.

Горячий аргумент в пользу локальных LLM от юзеров Reddit: пока внешние LLM относительно нейтральны, но это временно. Как только рынок окончательно созреет — корпорации будут закручивать гайки, чтобы зарабатывать больше.

Внешний API — это зависимость. Провайдер может в любой момент поменять правила игры: повысить тарифы, вывести старую модель из эксплуатации, ужесточить модерацию или ограничить доступ в определённом регионе. Качество ответов тоже не гарантировано: апдейты могут ухудшить выдачу, а сервисы могут падать в самый неподходящий момент — как это было с OpenAI API из-за сбоя у Cloudflare в ноябре 2025 года.

Стоимость API. Если у компании очень много запросов, счёт может выйти в копеечку. Локальная модель на собственном сервере — это понятный набор расходов: железо + электричество + обслуживание, который окупается с ростом нагрузки.

Ну и главный плюс on-premise LLM: вы сами решаете, когда обновляться, какие фильтры включать, как модель отвечает, и при желании дообучаете её на своих данных под нужный tone-of-voice.

Как выбрать модель и не пожалеть

Выбирая самую «крутую» модель из лидерборда, можно легко попасть в ловушку. Рейтинги моделей — это усреднённая температура по больнице. Модель может блистать на общих бенчмарках, но провалиться на вашем внутреннем датасете. На практике ориентируйтесь не на хайп, а на три принципа:

Размер имеет значение: больше ≠ лучше

Размер модели напрямую влияет на её возможности. Обычно чем она больше, тем лучше справляется с задачами. Но у этого есть обратная сторона: крупным моделям нужно значительно больше GPU-памяти, а значит — они дороже в обслуживании и поддержке. Если планируете поднимать локальную модель, оцените свои возможности в локальной развёртке моделей: сколько суммарно видеопамяти вообще есть (или сколько она будет стоить), и какой размер модели можно на ней поднять. Естьсервис, где это можно рассчитать:https://huggingface.co/spaces/Vokturz/can-it-run-llm

TPS решает: сколько токенов модель выдаёт в секунду

Скорость работы измеряют по показателю TPS (token-per-second) — сколько токенов (считай символов) генерируется в секунду. Чем больше LLM, тем дольше она отвечает. Обычно 15 TPS — это оптимальное значение для заданной пропускной способности.
Сейчас есть модели с архитектурой MOE (Mixture of Experts), которые во время инференса активируют только часть нейронов. За счёт такого строения модели работают быстрее и не сильно теряют в качестве.
Например, Qwen3-235B-A22B по скорости работает на уровне 14B-модели, но качество ответов намного лучше. Но и маленькие модели не стоит недооценивать — на узких задачах они не уступают своим собратьям побольше, но работают намного быстрее.

Качество на задаче: проверяем на своих данных

В идеальном мире под каждую задачу нужно подбирать или обучать определённую модель, которая умеет хорошо решать конкретно эту задачу. На практике не всегда достаточно ресурсов, чтобы поддерживать столько разных моделей. Качество работы можно оценить по публичным бенчмаркам, близким к вашей задаче. Например, если вы решаете задачу Text2SQL, можно проверить модели и статьи, которые ссылаются на бенчмарк Spider. Но всё же публичные лидерборды стоит учитывать только для первичного отбора моделей и подходов. Лучше собирать свой внутренний бенчмарк и оцениваться в нём.
Протестить open-source модель до того, как закупать железо можно на платформеopenrouter.ai. Обычно модели появляются там через несколько дней после релиза.

Инфраструктура, инструменты, мощности: с чего начать

После того как вы определились с моделью, нужно продумать инфраструктуру и инструменты для инференса. Инференс — это использование модели на практике: когда она получает запрос и генерирует ответ.

Чтобы выстроить минимальный, но надёжный прод для локальной LLM, нужны прямые руки DevOps, настроенный сервер/кластер с Nvidia CUDA и большое желание дебажить. Как собрать такой прод:

🎬 Видеолекция от Мичила Егорова: «Построение инфраструктуры для работы с LLM: опыт X5 Tech»

vLLM

📄 Документация

vLLM — высокопроизводительная и удобная библиотека для инференса и обслуживания LLM. Изначально разработана в лаборатории Sky Computing Lab Калифорнийского университета в Беркли.

С чего начать:

• Запуск моделей с открытым исходным кодом: Quickstart Guide.
• Создание приложений с vLLM: User Guide.
• Сборка vLLM: Developer Guide.

llama.cpp

📄 Документация

llama.cpp позволяет запускать LLM с минимальной настройкой и по словам разработчиков обеспечивает высокую производительность на разных устройствах — локально и в облаке. Изначально была задумана как библиотека на C/C++ для запуска модели LLaMA.

С чего начать:

• Установка llama.cpp через brew, nix или winget.
• Запуск с Docker.
• Сборка из исходного кода: руководство.

Triton Inference Server

📄 Документация

Triton Inference Server — высокопроизводительная платформа от Nvidia для инференса моделей. Поддерживает разнообразные фреймворки (TensorFlow, PyTorch, ONNX, OpenVINO и др.) и позволяет масштабировать модели в продакшне с минимальной доработкой кода.

С чего начать:

• Установка через Docker.
• Установка без контейнеров Docker.
• Сборка из исходного кода: руководство.

Где взять мощности для GPU

Главный вопрос локального продакшна — видеопамять. От её объёма и пропускной способности зависит, сможете ли вы поддерживать стабильный отклик и масштабировать систему. Есть два основных пути: аренда мощностей в облаке или сборка собственного сервера/кластера с GPU.

Перед тем как выбирать стратегию хостинга, стоит заранее прикинуть аппетиты выбранной модели. Нельзя купить видеокарту «на глаз»: если модель не влезет в память, она просто не запустится, а если влезет «впритык» — будет падать при длинных диалогах.

🖩 Инструмент: Can you run it? LLM version — калькулятор VRAM для LLM.

Если у вас стартап — не спешите поднимать свои модели. Современные LLM API закрывают множество задач, вплоть до дообучения LoRa на своих данных. Если вы собираете свой первый продукт — лучше сконцентрироваться на сборе внутреннего бенчмарка, а про локальные LLM подумать уже позже.

Для быстрого старта без вложений в собственное железо можно воспользоваться готовыми облачными GPU‑сервисами.

☁️ Подборка: Где арендовать GPU в 2025: подборка GPU‑хостингов с адекватной ценой и SLA

Собственный сервер требует огромных вложений в моменте и дорог в обслуживании, может долго окупаться и быстро устареть. Я бы не советовал этот путь, если вы еще не определились, что конкретно будете решать, и как скоро можете окупить затраты.
Если ожидается экспоненциальное увеличение нагрузки (например, в стартапе), то лучше арендовать мощности. Если же нагрузка в ближайшее время не увеличится, вы знаете, как окупать эти инвестиции, и хотите играть на долгий срок — лучше идти в сторону своего сервера.

Мониторинг

Недостаточно следить только за общим состоянием сервера и контейнера — жив ли он, какое время ответа, сколько запросов делается в секунду, насколько заполнены диски. Важно отслеживать показатели, связанные с процессом генерации:

• TPS и TPM (token-per-second и token-per-minute) — скорость генерации токенов.
• Размер очереди на генерацию — количество запросов, ожидающих обработки. Если очередь растёт, это означает, что текущей мощности недостаточно для поступающей нагрузки.
• Заполненность KV Cache (пар «ключ-значение») — кэш промежуточных вычислений, ускоряющий работу модели.

В случае с vLLM всё это предоставляется из коробки в Prometheus.

Лимиты токенов

В локальной инфраструктуре мониторинг токенов выполняет две функции: контроль загрузки железа и стабильности. Модель на своём сервере не выставляет вам счёт за токены, но берет своё временем выполнения и энергозатратами.

Если не настроить лимиты и алерты, можно сжечь ресурсы впустую: некорректно сформированная или очень длинная генерация может занять весь GPU и заблокировать всю очередь, вытеснив другие задачи. Если задать лимиты — прод останется стабильным, даже если пользователи попытаются заставить LLM написать «Войну и мир».

В Х5 у каждого пользователя или сервиса есть квота на месяц и выставлены алерты. Также мы настраиваем ограничения по TPM (token-per-minute), чтобы избежать риска случайного или намеренного DDoSа моделей.

Типичные грабли инференса локальных LLM

Даже если прод собран аккуратно и модель подобрана идеально, локальный инференс всё равно подкидывает сюрпризы.

1. Китайские иероглифы и любые странные символы — они характерны для семейства моделей Qwen. На последних версиях такое возникает реже, но раньше промпт не излечивал полностью это поведение. Это можно исправить корректировкой генерации декодера: мы настраивали guided generation и обнуляли вероятности генерации китайских символов.
2. Неправильно подобранные системные токены. Они обозначают начало и конец генераций конкретных ролей (user, assistant, tool etc). Для разных типов моделей, и даже внутри одного типа (Mistral, Qwen, Llama, и др.) системные токены различаются. Например, при смене семейства моделей можно забыть исправить системные токены. А если использовать «чужие» токены или не использовать их вовсе, качество моделей сильно проседает, поэтому нужно внимательно за этим следить.. 3. Перезаполнение памяти. Каждая отдельная генерация и kv cache занимает какое-то количество видеопамяти. Если не уследить, то в какой-то момент память GPU может перезаполниться и весь контейнер упадёт. Поэтому нужно внимательно отслеживать заполнение и ставить лимиты на генерацию, чтобы этого не происходило.

Это важный момент — индустрия десятилетие жила по формуле «больше данных → больше параметров → лучше модель». Теперь же оба лидера признают: следующий этап развития ИИ требует новых идей, а не просто новых кластеров с чипами H100.

Что говорит Суцкевер: эпоха масштабирования закончилась

Суцкевер делит историю ИИ на три периода:

• 2012–2020 это эпоха исследований. Здесь сфера получала новые архитектуры, CNN, внимание, RL.
• 2020–2025 это эпоха масштабирования. Законы масштабирования обеспечивают стабильный прирост качества.
• 2025 и далее — возвращение к исследованиям. GPU-фермы огромны, интернет конечен, эффект от роста моделей падает.

Главными лимитами актуальных LLM он назвал то, что высокий балл в бенчмарках ≠ надежность в реальных задачах. Также Суцкевер отметил, что обучение моделей все еще остается «черным ящиком, а обобщение все еще слабее человеческого — модели требуют тонны данных и сложные пайплайны пост-тюнинга.

Его новая компания SSI делает ставку именно на новые методы обучения, а не на «GPT-7, который такой же, но больше».

Что говорит Лекун: LLM — тупиковая ветвь

Лекун куда радикальнее. Он в принципе считает, что LLM глубоко ограничены. Связывает он это с тем, что они предсказывают следующий токен, а не понимают мир.

Еще к минусам нынешнего подхода он отнес тот факт, что каждый новый скачок дается все дороже, а отдача снижается. Ну и вишенка на торте — для настоящего интеллекта нужны world models. Т. е системы, которые учатся на видео, строят представления об объектах, времени и причинности.

К слову, *Meta активно продвигает архитектуру JEPA, нацеленную на обучение универсальных представлений, которые можно использовать для памяти, планирования и размышлений.

Почему это важно для разработчиков

Обе позиции сходятся на главном: мир ИИ меняется. Что это означает для тех, кто строит продукты?

1. GPU перестают быть главным преимуществом

Если масштабирование не дает прежнего прироста, то выигрыш дают:

• свои данные;
• UX;
• доменные сценарии;
• собственные пайплайны обработки.

2. Бенчмарки больше ничего не гарантируют

+2% к Abilities Arena вообще не означают меньше ошибок в рабочем процессе пользователя.

3. Стек ИИ станет более разнообразным

Появятся модели, которые:

• отвечают за физическое моделирование;
• выполняют планирование;
• работают поверх видео, а не текста;
• комбинируются с LLM в гибридные системы.

4. Главный актив — данные и обратная связь

По мнению экспертов, в ИИ-гонке победят не те, у кого лучший baseline-модель. Лидерство достанется тем, кто владеет качественными доменными данными, строит точные метрики качества и быстро (и итеративно) улучшает результат под свои процессы.

Что дальше: тихий перелом эпохи

Пятилетняя мантра «масштабирование — это все, что вам нужно» дала нам GPT-4, Claude, Gemini и всю текущую волну ИИ-продуктов. Но сегодня два главных человека в индустрии говорят: масштаб больше не тянет нас вверх (Суцкевер) и LLM не приведут к настоящему ИИ (Лекун).

Начинается новая глава — где инфраструктура остается огромной, но реальные прорывы делает не «больше», а «иначе». И если на первых этапах это может быть неприятно и больно, то в долгосрочной перспективе такой подход может принести еще больше интересных открытий.

Теперь он человек, который собрал персональный дата-центр, отказался от ChatGPT и крутит свои LLM локально. Об этом он рассказал в своем свежем видео на YouTube.

Свой «ИИ-совет» из восьми моделей

В новом видео PewDiePie показал свой «суперкомпьютер» — 10 GPU уровня RTX 4090, на которых он одновременно запускает до 64 моделей вроде Llama 405B.

Ради фана он даже сделал «ИИ-совет»: восемь нейросетей спорят между собой и голосуют за лучший ответ на его запрос.

Отмена ChatGPT и философия приватности

Феликс отписался от ChatGPT, когда понял, что удаленные чаты все равно остаются в обучающей выборке OpenAI.

«Когда Google или OpenAI знают мои личные данные — это странно. Но если мой ИИ хранит их у меня на ПК — это мои данные».

PewDiePie теперь полностью живет в духе цифрового суверенитета: он отказался от Google, перешел на Linux и GrapheneOS, самохостит облако на Raspberry Pi и даже превратил Steam Deck в сервер.

Из мемного короля в философа самоконтроля

Корни такого подхода — в 2017 году. После скандала с WSJ и разрыва контрактов с Disney и YouTube, Феликс понял, что один заголовок может стереть твою карьеру. С тех пор он выстраивает систему, где не зависит ни от одной корпорации.

Сегодня PewDiePie говорит языком open-source движения: локальные LLM, приватные данные, самохостинг, отказ от бигтеха.

Иронично, но один из символов массового YouTube стал манифестом анти-YouTube эпохи — когда твой главный девиз: «Если можешь — запускай у себя».

Редакция Tproger сделала и адаптировала перевод подборки программ для Windows и macOS. Здесь вы найдёте проверенные временем решения для работы, развлечений и повседневных задач. Мы сосредоточились на бесплатных и условно-бесплатных приложениях с отличной репутацией, которые решают реальные задачи без навязывания ненужных функций.

Список разбит по категориям: от браузеров и гейминга до утилит безопасности и инструментов для продуктивности.

Неважно, опытный вы пользователь или новичок — здесь найдётся что-то полезное для каждого.

Браузеры

Браузер — это, пожалуй, самое важное приложение на вашем компьютере. Именно через него проходит большая часть вашей цифровой жизни: работа, развлечения, коммуникации. Выбор браузера влияет не только на скорость загрузки страниц, но и на конфиденциальность, безопасность и удобство работы.

• Большинство пользователей: Chrome, Edge или Safari
• Защита приватности: Firefox, Brave, Ungoogled Chromium
• Опытные пользователи: Vivaldi
• Максимальная анонимность: Tor Browser

Google Chrome

Chrome остаётся самым популярным браузером в мире — и не просто так. Он быстрый, стабильный и отлично интегрируется с экосистемой Google. Огромная библиотека расширений из Chrome Web Store позволяет настроить браузер под любые задачи. Синхронизация между устройствами работает безупречно: вкладки, пароли, закладки и история всегда под рукой.

Минус один, но существенный: Chrome прожорлив. Если у вас открыто больше десятка вкладок, он может съесть несколько гигабайт оперативной памяти. На компьютерах с 8 ГБ RAM и меньше это становится проблемой.

Mozilla Firefox

Firefox — это выбор тех, кто ценит приватность и открытость. Mozilla не зарабатывает на продаже ваших данных, а сам браузер активно развивается сообществом. Встроенные инструменты защиты от трекинга работают из коробки, блокируя рекламные сети и скрипты слежения.

По скорости Firefox не уступает Chrome, а по потреблению памяти даже выигрывает. Библиотека расширений чуть меньше, чем у Chrome, но все основные инструменты доступны.

Microsoft Edge

Edge построен на том же движке Chromium, что и Chrome, но при этом лучше оптимизирован для Windows. Microsoft вложилась в производительность: браузер работает быстро, потребляет меньше ресурсов и отлично интегрируется с системой.

Особенно приятны функции вроде Collections (коллекции вкладок для организации исследований), режим чтения и встроенный скриншотер. Edge поддерживает все расширения Chrome, так что переход безболезненный.

Brave

Brave — это Chrome на стероидах приватности. Браузер блокирует рекламу и трекеры по умолчанию, что делает сёрфинг быстрее и безопаснее. При этом он полностью совместим с расширениями Chrome.

Есть интересная фишка: Brave Rewards позволяет зарабатывать криптовалюту за просмотр приватной рекламы (если захотите её включить). Спорная механика, но как опция — почему нет. Для тех, кто хочет Chrome без Google и с упором на приватность, Brave — отличный выбор.

Safari (только macOS)

Если у вас Mac, Safari заслуживает внимания. Это самый энергоэффективный браузер для macOS: на MacBook он даёт ощутимо больше автономности по сравнению с Chrome или Firefox. Интеграция с экосистемой Apple безупречна: Handoff, синхронизация через iCloud, Reading List, автозаполнение паролей.

Safari быстрый, безопасный и не перегружен функциями. Единственный минус — библиотека расширений заметно скромнее, чем у конкурентов. Но для большинства задач базового функционала хватает.

Ungoogled Chromium

Для ультраосторожных Ungoogled Chromium удаляет всё отслеживание и сервисы Google — но вам придётся настраивать всё самостоятельно, так как в нём нет автообновлений или встроенной синхронизации.

Для максимально осторожных пользователей — это Chrome, из которого убрали всю телеметрию Google, отслеживание и облачные сервисы. Браузер работает, но требует ручной настройки: отсутствуют автоматические обновления и встроенная синхронизация между устройствами.

Tor Browser

Выводя приватность на следующий уровень, Tor Browser маршрутизирует ваш трафик через сеть Tor, анонимизируя ваш IP и многократно шифруя соединение. Он медленнее по задумке, но идеален, если ваш приоритет — максимальная анонимность, а не скорость или удобство.

Vivaldi

Vivaldi — браузер мечты для тех, кто хочет полного контроля. Стекирование вкладок, тайлинг, кастомные горячие клавиши, встроенная почта и календарь, веб-панели — это полноценный десктопный опыт внутри браузера. Хотите боковую панель браузера, открывающую ваши заметки, RSS-ленты или любой нужный сайт? Vivaldi это умеет.

Arc

Наконец, Arc — когда-то новичок на рынке браузеров, нацеленный на переосмысление UX: замена традиционной панели вкладок на боковую панель, акцент на веб-приложениях, интегрированные разделённые виды и easels для заметок и доски. К сожалению, компания за Arc прекратила разработку, чтобы полностью переключиться на ИИ с новым браузером, который сейчас в закрытой бета-версии.

Управление паролями

• Лучший бесплатный выбор: Bitwarden
• Также отлично: 1Password, Dashlane, KeePass

Миллионы людей продолжают использовать одни и те же слабые пароли на всех сайтах — или, что ещё хуже, держатся за классику вроде «123456». Даже сильные пароли мало помогают, если их повторяют или забывают. Конечно, большинство браузеров предлагают встроенные менеджеры паролей, но они ограничены, привязаны к одному браузеру и менее безопасны, чем специализированные решения.

Также не будем забывать о passkeys (ключах доступа). Если говорить практически, можно сказать, что passkeys объединяют концепцию пароля и двухфакторной аутентификации (2FA) в одно плавное действие, но гораздо безопаснее и гораздо менее раздражающе.

Bitwarden

Полностью опенсорсный, зашифрованный и щедрый даже в бесплатной версии. Вы получаете неограниченное количество паролей, синхронизацию между устройствами и приложения для всех платформ. Премиум ($10/год) добавляет безопасный обмен файлами и инструменты 2FA. Также есть доступные семейные и командные планы.

1Password

Премиум-решение с отполированным интерфейсом, сильной кроссплатформенной поддержкой и отличными функциями вроде Travel Mode (режим путешествий) и полной интеграцией passkeys.

Dashlane

Предлагает мониторинг даркнета, интеграцию VPN и плавный пользовательский опыт. Есть бесплатный тариф с ограниченными функциями, но премиум-версия конкурентоспособна.

KeePassXC

Отличная оффлайн-альтернатива, если хотите полного контроля и не против ручной синхронизации (или использования чего-то вроде Syncthing или Dropbox для синхронизации базы данных).

Пропустите LastPass — когда-то фаворит, он упал в немилость после повторных утечек безопасности. Для душевного спокойствия лучше поискать в другом месте.

Продвинутые утилиты и дополнения к ОС

• Поиск + лаунчеры: Everything или Wox (Windows), Alfred или Raycast (macOS)
• Пакетные менеджеры: WinGet, Homebrew (macOS)
• Для пользователей Windows: PowerToys
• Для пользователей Mac: Rectangle
• История буфера обмена: ClipClip, Flycut (macOS)
• Скриншоты + аннотации: Monosnap

Winget

Официальный менеджер пакетов Microsoft, встроенный в Windows 10 и 11. Работает похоже на Chocolatey, но разработан и поддерживается Microsoft. Homebrew — самый популярный менеджер пакетов для macOS. Позволяет быстро устанавливать, обновлять и управлять приложениями и CLI-инструментами с помощью команд в терминале.

Everything

Что касается поиска, Everything остаётся золотым стандартом сверхбыстрого поиска по именам файлов в Windows. Он индексирует диски за секунды и выдаёт почти мгновенные результаты с минимальной нагрузкой на систему. Если нужен функционал шире базового поиска, Wox использует движок Everything и добавляет мощные возможности лаунчера: поиск файлов, запуск приложений, калькулятор, перевод текста и расширения через плагины. Получается более гибкий опыт в духе Spotlight для Windows.

Command Palette/Alfred/Raycast

В который раз Microsoft не смогла существенно улучшить встроенный поиск Windows, хотя Command Palette в PowerToys даёт неплохой компромисс для тех, кто не хочет ставить сторонние утилиты.

На macOS Alfred по-прежнему главный лаунчер и утилита поиска. Он быстрый, интуитивный и в бесплатной версии включает историю буфера и настраиваемые поиски; расширенная автоматизация и «воркфлоу» доступны в Powerpack.

Тем, кто хочет современную облачно-интегрированную альтернативу с готовыми расширениями и встроенной поддержкой Notion, GitHub и Slack, стоит присмотреться к Raycast — это стильный, дружественный к разработчикам вариант, который стремительно набирает популярность.

Менеджеры буфера обмена

Они позволяют возвращаться к ранее скопированному — тексту, изображениям, ссылкам — и сильно ускоряют рутинные операции.

В Windows встроенная история буфера (Win + V) кое-как выручает, но продвинутым пользователям обычно хочется большего. В числе бесплатных рекомендаций — ClipClip для Windows и Flycut для macOS.

Когда речь о скриншотах и аннотациях, штатные инструменты macOS и Windows заметно выросли. Но многим всё равно удобнее сторонние решения. Нам по-прежнему нравится Monosnap за простоту и возможность мгновенно заливать снимки в облако для шаринга (и это бесплатно).

PowerToys — набор полезных утилит от Microsoft для продвинутых пользователей Windows, повышающих продуктивность и упрощающих рабочие процессы. Среди инструментов: FancyZones для продвинутого раскладывания окон, PowerRename для пакетного переименования, Keyboard Manager для ремапинга клавиш, универсальный color picker и другие.

Rectangle и Magnet — два самых популярных приложения на macOS для закрепления окон: быстрые выравнивание и ресайз по хоткеям или перетаскиванием, примерно как по умолчанию в Windows. Пользователям, пришедшим с Windows и скучающим по системному снапингу, одно из них жизненно необходимо.

Широко используемая альтернатива в Windows — FancyZones (часть PowerToys), предлагающая продвинутое управление окнами: настраиваемые сетки, зоны привязки и поддержку нескольких мониторов — поэтому это фаворит пауэр-пользователей на Windows.

Для рутины и создания проектов

• Бесплатные инструменты: FreeOffice, LibreOffice и WPS Office
• Microsoft Office за единовременную плату $49, Office 2024 — $129
• Заметки: Notion, OneNote, Obsidian
• Бесплатный PDF-редактор: PDFsam
• Почтовые клиенты: Thunderbird, eM Client

Независимо от того, пишете ли вы тексты, планируете проект, кодите или наводите порядок в цифровой жизни, правильные инструменты решают многое. Сегодня выбор топовых приложений для продуктивности и разработки — часто бесплатных — лучше, чем когда-либо.

Microsoft Office остаётся отраслевым стандартом для профессиональной продуктивности. Подписка Microsoft 365 открывает доступ к Word, Excel, PowerPoint, Outlook и включает 1 ТБ облачного хранилища.

Среди бесплатных альтернатив LibreOffice — мощный open-source комплект с сильным сообществом (хотя интерфейс некоторым кажется старомодным). Если нужна внешне более майкрософтовская альтернатива, попробуйте FreeOffice или WPS Office Free — у них хорошая совместимость.

На macOS Pages, Numbers и Keynote предустановлены и более чем достаточны для большинства задач, особенно если вы в экосистеме Apple.

Знания и ведение заметок

Notion стал универсальной платформой организации: заметки, базы данных, to-do, управление проектами, создания совместных рабочих пространств. Если нужны более локальные заметки с синхронизацией между устройствами и поддержкой Markdown, Obsidian — любимец студентов и исследователей.

Для быстрых кроссплатформенных заметок OneNote — крепкий бесплатный вариант от Microsoft. В качестве альтернатив — Simplenote или open-source Joplin.

Если вы занимаетесь академической работой и научными статьями, Zotero — отличный open-source менеджер источников с интеграцией в браузер и совместными коллекциями. Milanote предлагает визуальный подход к заметкам и планированию — идеально для креативных пользователей.

Работа с PDF

Хотя Adobe Acrobat остаётся премиальным редактором PDF, бесплатные альтернативы вроде PDFsam позволяют без усилий объединять, разбивать, редактировать и поворачивать страницы.

Инструменты для дизайна и создания контента

Для дизайна два выделяющихся приложения хорошо дополняют набор продуктивности. Figma Desktop — совместная платформа интерфейс-дизайна, широко используемая UI/UX-дизайнерами и фронтенд-разработчиками. Десктоп-версия работает быстрее, чем браузер, и лучше интегрируется с ОС — это удобно для сложных дизайн-систем и коллаборации в реальном времени.

Canva с интуитивным drag-and-drop превосходно чувствует себя и как десктоп-приложение. Отлично подходит для быстрых графических материалов для соцсетей, маркетинга, постеров и презентаций. Благодаря тысячам шаблонов и совместной работе это фаворит как у профи, так и у новичков.

Почтовые клиенты

Если вы предпочитаете отдельный почтовый клиент, у eM Client много функций, бесплатный — до двух аккаунтов. Mozilla Thunderbird — мощная open-source альтернатива с удобной настраиваемостью, а Mailbird — вариант с упором на продуктивность для тех, кого не пугает подписка.

Инструменты разработчика

• Редакторы кода и текста: VS Code, Cursor, Sublime Text
• Система контроля версий: SourceTree, GitHub Desktop
• Контейнеры: Docker
• Локальные LLM: Ollama
• SFTP, загрузка файлов: WinSCP, Forklift

Для разработчиков Visual Studio Code — безусловный вариант. Бесплатный, лёгкий, но мощный, кроссплатформенный — тысячи расширений покрывают практически любой язык, фреймворк или инструмент. Набирающая популярность альтернатива — Cursor, редактор на базе VS Code с усиленной AI-помощью. Он подходит для связки с LLM: даёт inline-подсказки, генерирует код, рефакторит и позволяет редактировать кодовую базу.

При этом Sublime Text остаётся для скорости и простоты, а Notepad++ — отличный лёгкий редактор для быстрых правок в Windows.

Для Git графические клиенты SourceTree и SmartGit дают понятный интерфейс для управления репозиториями на GitHub, GitLab и не только. GitHub Desktop раньше был простоват и не слишком хорош, но сейчас существенно прибавил — всё ещё простой для работы, но в хорошем смысле.

Для локальных окружений, API-тестирования или терминального воркфлоу инструментов — пруд пруди. Например, Docker Desktop стал стандартом для тех, кто собирает и запускает контейнеризированные приложения на разных платформах. Он упрощает настройку окружений и держит систему чистой.

Ollama позволяет запускать большие языковые модели (LLM) локально с минимальной настройкой. Поддерживает модели вроде LLaMA, Mistral и другие open-weight альтернативы GPT, так что можно работать с ИИ прямо на своём компьютере без отправки данных в облако.

Если вы работаете с облачными хранилищами или SFTP, WinSCP (Windows) и ForkLift (macOS) — отличные клиенты с двухпанельным управлением файлами, синхронизацией и автоматизацией. На Mac также популярны Commander One и Transmit — у них есть встроенные подключения к удалённым и облачным путям.

Безопасность

И Windows, и macOS сегодня предлагают более чем достойную встроенную защиту. С защитой в реальном времени, интеграцией с файерволом и биометрией вроде Windows Hello и Touch ID. Для обычных пользователей, которые соблюдают гигиену безопасности: не скачивают сомнительное ПО, используют менеджеры паролей и включают 2FA — встроенной защиты часто хватает.

Для продвинутых пользователей есть дополнительные варианты.

Отличное первое дополнение — Malwarebytes. Это давний фаворит в обнаружении и удалении malware, adware и руткитов; бесплатная версия по-прежнему хороша для ручных сканов. В платной — защита в реальном времени без ощутимой просадки производительности.

Если не хочется ставить традиционный антивирус, есть достойные альтернативы. Emsisoft Emergency Kit — мощный портативный сканер, который можно запускать с флешки: идеально для редких глубоких сканов или лечения заражённых систем без установки чего-либо. Просто подключаете, когда нужно.

Ещё один отличный инструмент — VirusTotal: бесплатный веб-сервис, который проверяет файлы и URL через десятки антивирусных движков. Прежде чем открывать подозрительную загрузку, можно залить файл на VirusTotal.com или использовать их расширение для браузера, чтобы проверять ссылки в реальном времени. Быстро, просто и удобно для осторожных пользователей.

Мы не поклонники установки антивирусов на каждый компьютер и не полностью в курсе, какие сейчас показывают лучшие результаты. Тем не менее, AV-Test давно и регулярно оценивает популярные решения, поэтому советуем смотреть их свежие отчёты. В текущем списке высокооценённых — Avast, BitDefender, ESET и другие; многие из них предлагают бесплатные версии для пробы.

Удалённый доступ и вспомогательные утилиты

RustDesk стал современным, ориентированным на приватность аналогом TeamViewer. Он с открытым исходным кодом, быстрый и работает кроссплатформенно.

Тем, кому нужны более устоявшиеся коммерческие решения, подойдёт AnyDesk, который остаётся лёгким и надёжным вариантом для личного и командного использования.

Превращение смартфона в пульт дистанционного управления компьютером бывает невероятно удобно — будь то презентации, потоковое видео или просто навигация с дивана.

Remote Mouse — простой и эффективный способ эмулировать мышь и клавиатуру с телефона. Для более продвинутых сценариев можно использовать приложения вроде Unified Remote.

Редактирование изображений и видео

• Профессиональный видеомонтаж: DaVinci Resolve
• Простой видеомонтаж: CapCut
• Редакторы изображений: GIMP, PhotoDemon, Pixelmator Pro
• Бесплатное улучшение изображений: Upscayl
• RAW-редактирование: RawTherapee
• Видеоконвертация: HandBrake

Если вам нужен бесплатный инструмент для редактирования изображений, GIMP — один из самых мощных вариантов. Он предоставляет профессиональные возможности, такие как слои, маски и настраиваемые плагины, что делает его идеальным для продвинутых пользователей. Если вы ищете более лёгкий редактор с чистым интерфейсом, стоит обратить внимание на PhotoDemon. Он работает как портативное приложение на Windows, поддерживает слои и редактирование — отличный выбор для быстрых правок или ретуши.

Если вы хотите увеличивать разрешение изображений без потери качества, Upscayl — мощный и бесплатный инструмент для апскейла. Он кроссплатформенный, и по нашим тестам показывает результаты на уровне платных решений вроде Topaz.

Для векторной графики — логотипы, иллюстрации — Inkscape является достойным open-source вариантом с полной поддержкой редактирования SVG. Krita — ещё один отличный бесплатный инструмент, особенно подходящий для цифровой живописи и художественного творчества.

Для редактирования RAW-фотографий, Darktable и RawTherapee — два высококлассных open-source аналога Adobe Lightroom. Их широко используют фотографы, которым нужна работа с изображениями без подписки.

Для простых GIF-анимаций ScreenToGif — удобная утилита, мгновенно записывающая область экрана и экспортирующая в GIF или другие форматы с оверлеями.

Среди платных фоторедакторов Adobe Photoshop остаётся лидером, но для macOS есть Pixelmator Pro — мощное приложение с разовой оплатой, а Affinity Photo предлагает профессиональные возможности по более доступной цене.

Видеомонтаж и конвертация

DaVinci Resolve считается лучшим бесплатным профессиональным ПО. Его используют и энтузиасты, и профессионалы — от простого тримминга до цветокоррекции и сложного постпродакшена.

Shotcut и Kdenlive — тоже сильные бесплатные варианты, предлагают более простой фукнционал с хорошим набором функций для новичков и продвинутых пользователей. CapCut, изначально мобильное приложение, теперь доступен на десктопе — идеально подходит для быстрых монтажей и роликов для соцсетей.

Для пользователей macOS iMovie предустановлен и остаётся надёжным вариантом для базовых видео. Если вам нужно просто конвертировать или сжимать видео в современные форматы, HandBrake — проверенное бесплатное решение с поддержкой и вариацией входных и выходных форматов.

Тем, кто ищет топовый профессиональный монтаж, подойдут Adobe Premiere Pro и Final Cut Pro, но там есть дорогая подписка и более высокий порог входа.

Коммуникации и совместная работа

• Для повседневной связи: WhatsApp, Messenger и Zoom, если у вас нет FaceTime
• Для приватности: Signal
• Для работы: Slack, Teams
• Для игр и общения: Discord

Выбор коммуникационных и мессенджерных приложений в первую очередь зависит от того, с кем вы общаетесь — с семьёй, друзьями, коллегами или игровым сообществом. Вот актуальная картина:

Для личной переписки WhatsApp и Facebook Messenger остаются самыми массовыми платформами по всему миру. У них есть десктопные клиенты и встроенное сквозное шифрование по умолчанию. Telegram также крайне популярен благодаря синхронизации между устройствами и поддержке крупных чатов. Пользователи Apple продолжают активно использовать iMessage для приватного, шифрованного общения в экосистеме Apple.

Из видеоконференций Zoom остаётся одним из лидеров для групповых звонков и онлайн-ивентов, предлагая локальные записи, демонстрацию экрана и комнаты (breakout rooms). Однако бесплатный тариф ограничивает 1:1 звонки 40 минутами, если не перейти на платный план. Zoom поддерживает сквозное шифрование, но при включении E2EE отключаются некоторые функции вроде облачной записи и комнат.

Google Meet — отличный браузерный аналог без необходимости установки, который заметно улучшился по качеству и удобству использования. Многие компании применяют Meet в ежедневной работе и гибридных форматах. Если ваша организация использует Microsoft 365, скорее всего, вы работаете в Microsoft Teams, который уже заменил Skype на корпоративном уровне. Teams поддерживает большие созвоны, обмен файлами и глубоко интегрирован с Office. Сквозное шифрование доступно, но только для 1:1 звонков.

FaceTime по-прежнему отличный для пользователей Apple, и благодаря новым обновлениям к звонку теперь могут присоединяться и пользователи Android/Windows по ссылке через браузер.

Когда приватность критична, Signal — один из лучших вариантов. Разработан некоммерческой организацией, бесплатен, open-source, без рекламы, использует надёжное сквозное шифрование для сообщений и звонков.

Для рабочих коммуникаций Slack и Teams продолжают использоваться в бизнес-среде. Бесплатный тариф Slack ограничивает историю 90 днями и звонки, но остаётся любимцем стартапов и малых команд благодаря интеграциям и ботам. Cisco Webex — также крепкий вариант, особенно популярен в корпоративной среде.

Если вы работаете с креативными командами, сообществами или геймерами, Discord стал явным лидером. Изначально созданный для игр, он превратился в полноценную коллаборативную платформу с текстом, голосом и видео, стримингом экрана и ботами для автоматизации. Многие комьюнити — и даже IT-компании — используют Discord как основной рабочий инструмент.

Для внутриигрового голосового чата TeamSpeak остаётся олдскульным достойным вариантом: можно использовать анонимно и получать полный контроль над сервером. Встроенный чат Steam лучше, чем раньше, и помогает в игровой координации, но большинство всё же выбирает Discord.

Гейминг, моддинг и стриминг

• Игровые платформы: Steam, Epic Games, EA App, Ubisoft, GOG
• Последние драйверы для GPU: Nvidia GeForce, AMD Radeon, Intel Arc
• Стриминг: OBS Studio

Steam остаётся центром PC-игр. Это не только магазин, но и социальная платформа, лаунчер и площадка с модами, облачными сохранениями и встроенным стримингом. Регулярные распродажи, поддержка контроллеров и сообщества делают его обязательным для любого PC-геймера.

Не менее важно установить Epic Games Store. Хотя библиотека меньше, он регулярно раздаёт бесплатные игры, доступные любому с аккаунтом Epic. Это также must-have, если вы играете в Fortnite.

Помните: не все издатели размещают игры на Steam или Epic. Для тайтлов EA понадобится EA App (ранее Origin), для Ubisoft — Ubisoft Connect, для Blizzard/Activision — Battle.net, а GOG Galaxy не только предлагает DRM-free классику, но и может агрегировать игры из других лаунчеров.

Некоторые сверхпопулярные игры распространяются отдельно: Minecraft (через Minecraft.net или Microsoft Store), Roblox, League of Legends и Valorant (через лаунчер Riot Games). Если вы новичок и ищете что-то лёгкое, можно начать с free-to-play тайтлов или классики вроде Brutal Chess или GZDoom.

Если вы играете с геймпадом, Windows поддерживает Xbox-контроллеры из коробки. PlayStation-контроллеры теперь тоже отлично работают: Steam через Steam Input поддерживает DualShock 4 и DualSense практически во всех играх. При необходимости глубокой кастомизации можно использовать DS4Windows, но большинству хватает возможностей Steam.

Если вас интересует моддинг, хороший менеджер модов время в этой жизни:

• Mod Organizer 2 — лучший для RPG Bethesda (Skyrim, Fallout).
• Vortex (от Nexus Mods) — дружелюбный к новичкам и поддерживает широкий перечень игр.

Для записи геймплея или стриминга Nvidia ShadowPlay и AMD Radeon ReLive подходят для простых задач. Но для стриминга с вебкой, сценами, оверлеями или многосценовым продакшеном OBS Studio — безальтернативный лидер. Он бесплатный, open-source и подходит как новичкам, так и про-стримерам (Twitch, YouTube, Kick и т.д.). SignalRGB помогает синхронизировать весь RGB-зоопарк и задавать динамические эффекты.

Мониторинг железа и разгон

• Мониторинг: CPU-Z, HWMonitor, HWiNFO64
• Настройка и разгон: Afterburner, FanControl, ThrottleStop, SignalRGB

Одно из первых дел, которое стоит сделать после сборки ПК — убедиться, что компоненты соответствуют ожиданиям и работают корректно. К счастью, существует много инструментов, позволяющих мониторить, тестировать и настраивать железо.

Начать стоит с CPU-Z — классического бесплатного инструмента, показывающего информацию о CPU, материнской плате, оперативной памяти и других компонентах. Он также умеет запускать простой стресс-тест и бенчмарк для проверки стабильности.

Для более широкого мониторинга HWMonitor показывает температуры, напряжения и скорости вентиляторов в реальном времени. Если нужно ещё глубже и с более гибким интерфейсом — HWiNFO64 считается одним из лучших: поддерживает логирование датчиков и интеграцию с оверлеями (например, RTSS или Rainmeter).

Чтобы проверить хранилище, CrystalDiskMark измеряет скорость чтения/записи SSD и HDD — это помогает понять, соответствует ли диск заявленным характеристикам. Глубже оценить здоровье накопителя можно в Hard Disk Sentinel, который анализирует SMART-данные, оценивает срок службы и предлагает ограниченный ремонт.

С точки зрения охлаждения, всё больше геймеров используют утилиты для настройки вентиляторов. FanControl — актуальный бесплатный фаворит: поддерживает сложные кривые оборотов, привязку к датчикам, и совместим с большинством современных материнских плат. На Mac одной из лучших утилит остаётся Macs Fan Control.

Для настройки видеокарт долгое время стандартом был MSI Afterburner — для разгона, настройки вентиляторов и мониторинга с RTSS-оверлеем. Однако из-за замедления обновлений многие сегодня используют встроенные утилиты от Nvidia (GeForce Experience/Control Panel) и AMD (Adrenalin Software).

Если вы меняете видеокарту или подозреваете проблемы с драйверами, обязательно используйте Display Driver Uninstaller (DDU) — он полностью очищает систему от старых драйверов перед переустановкой.

Если вы играете на ноутбуке или хотите снизить нагрев и повысить автономность, ThrottleStop остаётся одним из лучших инструментов для андервольта CPU и настройки энергопрофилей.

Тем, кто серьёзно подошёл к разгону CPU и GPU, пригодятся фирменные инструменты вроде Intel XTU (для Intel) и AMD Ryzen Master — они дают контроль над частотами, напряжениями и лимитами мощности.

Управление файлами

• Поиск больших файлов: SpaceSniffer, WizTree, Disk Drill (macOS)
• Поиск дубликатов: dupeGuru
• Архивы и ZIP: PeaZip, The Unarchiver
• Очистка: BCUninstaller, CCleaner Portable, AppCleaner (macOS)

Чтобы грамотно управлять файлами и освобождать место, нужно понимать, что именно занимает пространство. На Windows популярны WinDirStat и WizTree — быстрые бесплатные инструменты для визуализации диска. SpaceSniffer предоставляет динамическую схему.

На macOS — GrandPerspective и Disk Drill предлагают аналогичный функционал, а DaisyDisk — один из самых красивых платных вариантов с молниеносным сканированием.

Если дубликаты засоряют диск, dupeGuru (open-source) отлично справляется с поиском повторяющихся изображений и музыки, даже слегка изменённых.

Для пакетного переименования файлов (например, фоточек с камеры) существует гибкий Bulk Rename Utility. Если нужно что-то попроще: PowerRename из PowerToys (Windows) или встроенный инструмент в Finder (macOS) подходят большинству.

Встроенный File Explorer в Windows недавно получил вкладки и стал удобнее, но Files (open-source) — современная альтернатива с улучшенным UX. Кто-то ещё пользуется Total Commander или Directory Opus, благодаря расширяемости и скриптам, хотя новичкам они кажутся устаревшими. Для просмотра изображений по-прежнему незаменим IrfanView.

Для работы с архивами, если не устраивает встроенный ZIP-менеджер Windows, скачайте 7-Zip или PeaZip. На Mac лучшим бесплатным инструментом остаётся The Unarchiver.

Для очистки системы важно выбирать надёжные утилиты. На Windows, BCUninstaller (Bulk Crap Uninstaller) — один из самых проверенных для удаления программ и их хвостов. BleachBit и Wise Disk Cleaner — безопасные альтернативы CCleaner (лучше использовать Portable-версию, так как стационарная испортила репутацию). На Mac AppCleaner всё ещё любим за полное удаление приложений без мусора.

Если вы организуете большую библиотеку медиа, стоит взглянуть на open-source TagSpaces, позволяющий тегировать файлы локально, без облака.

Облачное хранилище и резервное копирование

• Простая синхронизация: Dropbox, Google Drive
• Фото между устройствами: Apple iCloud, Google Photos
• Приватность: pCloud, Proton Drive, Internxt
• Полные бэкапы: Backblaze, IDrive

Базовое облачное хранилище

Dropbox — один из самых простых в использовании, хотя бесплатных 2 ГБ мало.

Google Drive — 15 ГБ бесплатно, используется Gmail, Docs и Photos. Идеален для Android.

OneDrive — идёт в комплекте с Windows и Microsoft 365. 1 ТБ включён в большинство Office-планов. Хотя по скорости и интерфейсу уступает Dropbox/Google.

iCloud Drive — лучший выбор для пользователей Apple, глубокая интеграция с macOS/iOS. Бесплатно 5 ГБ, далее по планам до 2 ТБ.

Proton Drive — шифрованная альтернатива от создателей ProtonMail.

Фото и видео

На macOS приложение Photos автоматически создаёт альбомы по людям и локациям, синхронизирует всё через iCloud.

На Windows мы часто рекомендуем Google Photos, который предлагает аналогичный набор функций и автоматизацию. Для пользователей Android — это стандарт по умолчанию. Да, раньше было безлимитно, теперь фото занимают общее место Google Drive (15 ГБ), которое быстро заканчивается.

Полные бэкапы

Если требуется сохранять всю систему, терабайты медиа, состояние дисков используйте отдельные сервисы резервного копирования.

Backblaze — топ в этой категории: фиксированная цена (~$8/месяц за устройство), безлимитное хранилище, минимум настроек: установил и забыл.

IDrive — более контролируемый вариант, поддерживает несколько устройств, внешние диски и версионность файлов.

Простой для не-технарей — Carbonite, с возможностью быстрого восстановления и круглосуточной поддержкой.

Профессионалам — Acronis Cyber Protect: клон дисков, анти-вымогатель, гибридное облако.

Для особо чувствительных данных

Если вы храните личные финансовые документы или медицинские сведения, стоит выбрать end-to-end решений.

pCloud предлагает клиентское шифрование (через платный «Crypto»). Даже при взломе аккаунта файлы не расшифруются без ключа.

Proton Drive — аналогичный подход, с прозрачностью open-source.

Прочие полезные инструменты, не вошедшие в другие разделы

Google Earth — для любителей карт и планировки.

qBittorrent — лучший torrent-клиент: чистый, без рекламы, с поиском. Альтернатива — легковесный Transmission или кастомизируемый Deluge.

iMazing — must-have для владельцев iPhone: резервные копии, экспорт медиа, проверка батареи, конвертация HEIC.

AirDroid — аналог для Android: управление файлам, уведомления, SMS с ПК.

Rufus — лидер по созданию загрузочных USB-дисков для Windows/Linux.

Open Shell — возвращает классическое меню «Пуск» в стиле Windows 7.

Stretchly — напоминает делать перерывы — полезно удалёнщикам и фрилансерам.

AutoHotkey — скриптовый движок для Windows: переназначение клавиш, макросы, автоматизация.

VPN: бесплатные — ProtonVPN, Windscribe, TunnelBear (с лимитом). Платные — ProtonVPN, NordVPN.

Calibre — лучшее бесплатное решение для чтения, организации и конвертации e-book (EPUB, MOBI, PDF и др.).

Заключение

Итак, мы прошлись по основным категориям приложений, которые стоит установить на новый компьютер. Конечно, этот список не исчерпывающий — у каждого свои задачи и предпочтения. Но если вы установите хотя бы половину из перечисленного, ваш компьютер станет гораздо удобнее и функциональнее.

Несколько советов напоследок:

1. Не захламляйте систему. Устанавливайте только то, что действительно используете. Чем меньше фоновых процессов — тем быстрее работает компьютер.
2. Следите за обновлениями. Большинство программ обновляются автоматически, но некоторые требуют ручного апдейта. Свежие версии — это не только новые функции, но и закрытые уязвимости.
3. Делайте резервные копии. Никакие утилиты не спасут от отказа жёсткого диска. Регулярный бэкап на внешний носитель или в облако — обязательная практика.
4. Экспериментируйте. Попробуйте несколько браузеров, редакторов, плееров. То, что подходит большинству, может не подойти именно вам.
5. Читайте отзывы. Перед установкой незнакомого приложения загляните на форумы или Reddit. Сообщество быстро выявляет проблемы и подводные камни.

Теперь ваш компьютер готов к работе, учёбе, развлечениям — и чему угодно ещё. Главное — не забывайте, что инструменты важны, но ещё важнее то, как вы их используете. Удачи!

Цифра в 100 миллиардов долларов вызывает когнитивный диссонанс. Это больше ВВП таких стран, как Хорватия, Беларусь или Уругвай. Сумма, которую человечество тратит на космические программы за десятилетия. Но здесь речь о частной сделке между двумя компаниями. Когда деньги достигают такого масштаба, они перестают быть просто деньгами, а становятся инструментом перераспределения глобальной власти.

Эпохальная сделка: за рамками пресс-релиза

Новость от 22 сентября 2025 года выглядела стандартным корпоративным анонсом, хотя и разлетелась по всем мировым СМИ и tech-изданиям. NVIDIA и OpenAI объявили о стратегическом партнерстве с развёртыванием 10 гигаватт вычислительных систем. Цифры впечатляют, но вся суть кроется в деталях.

По словам Дженсена Хуанга, гендира NVIDIA, 10 гигаватт — это 4-5 миллионов графических процессоров. Столько же NVIDIA произведёт за весь 2025 год. Фактически, OpenAI получает доступ к годовому объёму производства ключевого ресурса для ИИ.

Инвестиция в $100 млрд структурирована прогрессивно — по мере развёртывания каждого гигаватта мощностей. Первый транш в $10 млрд поступит после запуска первого гигаватта во второй половине 2026 года.

Управляющий партнёр Requisite Capital Management Брин Токингтон заявил: «NVIDIA инвестирует $100 млрд в OpenAI, которые OpenAI затем вернёт обратно». Он отметил, что этот проект будет полезен для NVIDIA.

Эксперты отмечают стратегическую глубину сделки. Как пишет сайт CNBC, партнёрство «подчеркивает тесную связь между OpenAI и NVIDIA, двумя главными драйверами последнего бума в области ИИ». Фактически, это создает интегрированную экосистему, где успех одного напрямую подпитывает рост другого.

Вычислительная гонка вооружений: как мощность стала новой нефтью

OpenAI оказалась в парадоксальной ситуации. 700 млн еженедельных пользователей — это не только успех, но и колоссальная нагрузка. Каждый запрос к ChatGPT требует вычислений. Каждое улучшение модели — тысяч GPU.

Сэм Альтман предельно откровенен: «Все начинается с вычислительных мощностей». В интервью CNBC он объясняет — без достаточных ресурсов нам придётся выбирать между исследованиями рака и бесплатным образованием. Никто не хочет такого выбора.

Но за этим кроется плачевная реальность. Современные большие языковые модели достигли такой точки роста, когда простое масштабирование требует экспоненциального роста вычислений. Обучение GPT-4 оценивали в $100 млн только на электричество. Следующие поколения будут дороже на порядки.

Грег Брокман сравнивает текущую ситуацию с первым сервером DGX, который Хуанг лично доставил в офис OpenAI в 2016 году. «Теперь нам нужно в миллиард раз больше вычислительной мощности», — говорит он. Масштаб ошеломляет.

Мы наблюдаем фундаментальный сдвиг. Если раньше алгоритмы были ключевым ограничивающим фактором, теперь это исключительно вычислительные ресурсы. Тот, кто контролирует гигаватты, будет контролировать интеллект следующего поколения.

Монополия на разум: стратегия NVIDIA

NVIDIA — уже не только производитель чипов: компания строит экосистему, в которой её собственные технологии становится стандартом де-факто. Партнёрство с OpenAI — краеугольный камень этой стратегии.

Дженсен Хуанг скромно называет это «началом». «Мы буквально подключим интеллект к каждому приложению, к каждому случаю использования, к каждому устройству», — говорит он. За этими словами — видение мира, где NVIDIA станет такой же необходимостью, как электричество.

Антимонопольные юристы уже выражают обеспокоенность. Андре Барлоу, специалист по конкурентному праву, отмечает: «Сделка может изменить экономические стимулы NVIDIA и OpenAI и создать замкнутую систему, где доминирование на железо подкрепляет лидерство в программном обеспечении».

Особенно тревожным эксперты считают момент заключения сделки. Всего за неделю до объявления с OpenAI NVIDIA:

• приобрела долю в Intel за $5 млрд;
• инвестировала $700 млн в дата-центровый британский стартап Nscale;
• потратила $900 млн на поглощение разработчика ПО для ИИ-кластеров Enfabrica.

Сейчас компания захватывает все уровни инфраструктуры. Аналитики Bloomberg характеризуют сделку как намеренное создание «порочного круга» на $100 млрд. Они указывают, что реальный риск для индустрии заключается не в лопнувшем пузыре, а в консолидации рынка, которая вытесняет конкурентов. NVIDIA создаёт то, что можно назвать «вычислительным картелем». Партнёрство с OpenAI — это сигнал рынку: альтернативы нашим чипам для серьезных AI-проектов просто нет.

Тихая война сверхинтеллекта: глобальный контекст

Партнёрство NVIDIA и OpenAI происходит на фоне глобальной гонки за сверхинтеллектом. Игроки понимают — кто первый создаст AGI*, получит беспрецедентное преимущество.

*AGI, искусственный общий интеллект — на текущий момент гипотетическая форма ИИ с самосознанием и способностями решать сложные интеллектуальные задачи лучше человека.

В июне 2025 года Марк Цукерберг объявил о реорганизации AI-подразделения Meta* с фокусом на сверхинтеллект. Александр Ванг, бывший CEO Scale AI, возглавил новое подразделение Meta* Superintelligence Labs.

*запрещена в РФ

Илья Суцкевер, сооснователь OpenAI, ушел из компании, чтобы создать Safe Superintelligence Inc. (SSI). Его организация сфокусирована исключительно на безопасности сверхинтеллекта — это явный признак того, что эксперты не считают создание AGI сугубо теоретическим вопросом.

Работы Леопольда Ашенбреннера, бывшего исследователя OpenAI, обсуждаются в военно-политических кругах Вашингтона. Его эссе содержит прямой призыв обеспечить тотальное доминирование США в гонке ИИ. Технологии становятся вопросом национальной безопасности.

Китайские компании типа Baidu и Alibaba активно работают над собственными большими моделями, но сталкиваются с ограничениями доступа к передовым чипам — США сознательно создают искусственный барьер.

Аналитики отмечают, что сделка между NVIDIA и OpenAI укрепляет связи в рамках целой сети партнёрств между технологическими гигантами, включая Microsoft, Oracle и SoftBank. Этот формирующийся «блок сотрудничества» оценивается в триллионы долларов, а его интересы, как отмечается в одном из обзоров, «очень сходятся» на фоне поддержки политики администрации США. Таким образом, сделка выходит за рамки корпоративной и приобретает черты национальной технологической стратегии.

Регуляторный парадокс: почему молчат антимонопольные службы

Тревожный аспект сделки — отсутствие серьёзного регуляторного сопротивления. Сравнение с другими громкими случаями показательно:

• Сделка Microsoft и Activision Blizzard годами изучалась регуляторами по всему миру. Споры велись о том, будут ли игры вроде Call of Duty эксклюзивными для Xbox. Речь шла о доступе к развлечениям.
• Apple бесконечно судится с регуляторами ЕС из-за комиссий в App Store и предустановке сторонних магазинов. Битва идёт за проценты с продаж цифровых товаров.

Но когда речь заходит о контроле над технологией, которая может переопределить будущее человечества, регуляторы молчат — антимонопольные службы США занимают мягкую позицию по этому вопросу.

Создаётся впечатление, что регуляторы понимают технологии прошлого, но не успевают за скоростью развития ИИ. Они видят угрозу в монополии на поиск в сети или социальные сети, но не осознают, что монополия на сверхинтеллект — это качественно другой уровень угрозы.

Европейский союз пытается догнать уходящий поезд. AI Act вступил в силу в 2025 году, но фокусируется в основном на прозрачности и этике, а не на концентрации вычислительной мощи. Регуляторы борются с симптомами, а не с причиной.

Будущее индустрии: новые правила игры

Для разработчиков и IT-индустрии партнёрство создаёт новую реальность с чёткими последствиями. Доступ к вычислительным ресурсам становится ключевым конкурентным преимуществом. Стартапам будет сложно конкурировать с гигантами, обладающими гигаваттами мощности. Инновации могут сместиться от небольших лабораторий к корпорациям.

Централизация AI-мощностей ограничивает разнообразие подходов. Как отмечает Суцкевер, безопасность ИИ требует фундаментальных исследований, а не только масштабирования существующих моделей.

Мы наблюдаем рождение новой олигополии — рынка технологий без конкуренции. Если в интернете доминировали платформы, в мобильной эре — Apple и Google, то в эру ИИ власть будет у тех, кто контролирует модели и вычисления для их обучения. Остальные станут просто поставщиками данных.

В своей книге «Читай, пиши, управляй» технологический евангелист и венчурный инвестор Крис Диксон напрямую связывает развитие ИИ с тенденцией к консолидации рынка. «Быстрое развитие искусственного интеллекта, вероятно, тоже ускорит тренд на консолидацию крупных технологических компаний. ИИ имеет огромный потенциал, но изначально благоприятствует щедро капитализированным компаниям с огромными массивами данных»

Альтернативные пути: есть ли жизнь после NVIDIA

Не все эксперты считают ситуацию безнадежной. Появляются признаки сопротивления доминированию NVIDIA:

• Google продолжает развивать собственные TPU и инвестирует в кремниевые инновации;
• Amazon через AWS продвигает собственные чипы Inferentia и Trainium;
• Microsoft работает над проектом Athena.

Но разрыв огромен. Хуанг в августе 2025 года говорил инвесторам, что строительство одного гигаватта дата-центров стоит $50-60 млрд, из которых $35 млрд — оборудование NVIDIA. Конкуренты не могут просто купить рынок. Китай развивает национальные проекты в обход санкций, но пока выступает в роли догоняющего.

Наиболее перспективным направлением считаются фундаментальные исследования новых архитектурах вычислений. Квантовые компьютеры, нейроморфные чипы, оптические вычисления — всё это может изменить правила игры.

Тенденция к специализации аппаратного обеспечения для ИИ — новая реальность рынка. Анализ актуальных решений NVIDIA показывает, что компания давно отошла от универсальных архитектур и развивает целое семейство специализированных GPU, каждое из которых оптимизировано под конкретный тип задач:

• Для инференса (процесса применения уже обученной модели ИИ) и визуализации созданы ускорители NVIDIA L40, которые сочетают высокую производительность в AI с передовыми возможностями для графики.
• Для масштабного инференса в дата-центрах предназначен низкопрофильный и энергоэффективный NVIDIA L4.
• Для рабочих станций создана видеокарта NVIDIA RTX 6000 Ada Generation, архитектура которой обеспечивает почти двукратный прирост производительности в AI-задачах по сравнению с предшественниками.

Тренд на специализацию открывает возможности для новых игроков. Они могут сфокусироваться на разработке узкоспециализированных решений, не пытаясь сразу конкурировать с гигантами и создавать универсальные GPU для обучения огромных моделей.

Геополитический контекст: перерисовка карты влияния

Сделка NVIDIA и OpenAI выходит далеко за рамки бизнеса. Технологическое лидерство всё больше определяет геополитическое влияние. Администрация президента Трампа рассматривает ИИ как область стратегического преимущества США.

Европейский союз пытается найти баланс между регулированием и инновациями, но не имеет собственных технологических наработок в этой сфере. Страны глобального Юга рискуют остаться потребителями технологии, которую не создают.

Бывший советник по национальной безопасности США Генри Киссинджер в своей последней книге предупреждал: «ИИ станет новым ядерным оружием — тем, кто первым достигнет сверхинтеллекта, достанется возможность диктовать правила остальному миру».

Официальные военные доктрины ведущих стран уже давно сравнивают киберпространство с театром военных действий. Концентрация ресурсов для создания сверхинтеллекта в рамках частного партнерства стоимостью в сотни миллиардов долларов вызывает опасения у экспертов — нас могут ожидать новые формы геополитических противостояний.

Философ и футуролог Ник Бостром, автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии», в недавнем интервью выразил обеспокоенность: «Ускорение гонки ИИ без адекватных механизмов контроля напоминает эксперименты с ядерной энергией в 1940-х, но с ещё более непредсказуемыми последствиями».

Сделку комментирует эксперт Максим Горшенин, автор инсайдерского канала про импортозамещение в России Imaxai, соучредитель Ассоциации производителей компьютеров и периферийного оборудования:

«Это стратегическая инициатива, тесно связанная с политикой США. Их цель — создавать американские продукты на американских вычислительных мощностях. Последствия такого подхода заключаются в создании замкнутой экосистемы: OpenAI — крупнейший потребитель вычислительных ресурсов, и партнерство с NVIDIA блокирует возможности проникновения на этот рынок конкурентов. Второй ключевой аспект — сохранение технологического лидерства США. Все действия направлены на удержание позиций, включая лидерство в производстве и разработке чипов для ИИ. Этому способствует указ Трампа, предписывающий американским компаниям инвестировать миллиарды долларов в эту сферу. Что касается долгосрочных глобальных последствий — полный контроль над цивилизацией в ближайшее время вряд ли будет достигнут. Но лет через 30 — вполне возможно. Исторически США всегда делали ставку на технологическое превосходство через сотрудничество с Министерством обороны, что позволяло создавать более совершенное оружие. Сейчас официально заявлено: кто обладает самым передовым ИИ, тот получает преимущество в войне, прогнозировании, предугадывании действий противника, создании умных бомб и других сферах. Это инвестиция в технологическое лидерство США, что создает негативные последствия для остальных стран и запускает гонку искусственного интеллекта — прежде всего между США и Китаем. Остальные страны в этом противостоянии практически не участвуют».

Дело уже не в коммерческом превосходстве, а в том, кто будет контролировать технологию, способную переопределить будущее мировое влияние и безопасность. Битва за ИИ может оказаться новой масштабной войной. Победа в этой битве достанется не тому, у кого лучше армия, а тому, у кого сложнее алгоритмы и больше вычислительных мощностей.

Этическая дилемма: кто будет контролировать контролеров

Самый сложный вопрос — этический. Создание сверхинтеллекта поднимает проблемы, которые человечество никогда прежде не решало. Суцкевер предупреждает, что существующие методы безопасности, основанные на человеческом контроле, не работают для сверхинтеллекта. Люди просто не смогут понять его действия.

OpenAI позиционирует себя как компанию, миссия которой — безопасный ИИ на благо человечества. Но структура партнёрства с NVIDIA ставит вопрос о приоритетах.

В ноябре 2024 года на сайте Оксфордского университета было опубликовано заявление профессора биоэтики Джулиана Савулеску, посвященное этике использования ИИ в научных исследованиях.

В нём он сказал следующее:

«Большие языковые модели — это ящик Пандоры для академических исследований. Они могли бы уничтожить академическую независимость, креативность, оригинальность и саму мысль. Они также могли бы способствовать невообразимому со-творчеству и продуктивности. Мы должны быть осторожны, когда полагаемся на частные корпорации с их обязательствами перед акционерами, чтобы управлять технологиями, которые могут оказывать колоссальное влияние на человеческое будущее».

Итоги: точка невозврата пройдена

Партнерство NVIDIA и OpenAI — не рядовая сделка. Мы входим в новую эру, в которой вычислительная мощность становится главным ресурсом. Тот, кто контролирует ИИ, получает реальное влияние в мире.

Сам Альтман, президент OpenAI, признаёт:

«Вычислительная инфраструктура станет основой экономики будущего».

За этими словами — новый мир, в котором традиционные ресурсы вроде нефти или газа уступают место гигаваттам и гигафлопам.

Для программистов и IT-специалистов это означает необходимость адаптации к реальности, где доступ к большим AI-моделям дает возможности создания продуктов. Технологическое лидерство всё больше определяется не только кодом, но и вычислительными ресурсами.

Гонка сверхинтеллекта только начинается, но правила уже пишутся. И главное, что демонстрирует партнерство NVIDIA и OpenAI: в игре за будущее разума ставки выше, чем мы привыкли думать, а победитель, возможно, будет только один.

По сути, грамотная и безопасная настройка MSI Afterburner позволяет в разы увеличить производительность комплектующих без глубоких знаний в области оверклокинга — утилита не перегружена огромным количеством функций, а интерфейс понятный и дружелюбный.

В этом руководстве мы рассмотрим, как правильно настроить MSI Afterburner для безопасного разгона и мониторинга вашей видеокарты, чтобы обеспечить максимальную производительность.

Знакомство с MSI Afterburner

Проверьте, загружены ли у вас свежие драйверы для видеокарты и скачайте последнюю версию MSI Afterburner с официального сайта — сейчас это 4.6.5 или 4.6.6 Beta 3. В этой версии есть поддержка 3D-ускорителей GeForce RTX 40, Radeon RX 7900 и GeForce RTX 3060 Ti с памятью GDDR6X, и экспериментальная поддержка процессоров Intel Core 13 и AMD Ryzen 7000.

После установки (в ней нет ничего сложного) запустится само приложение MSI Afterburner и появится рабочее пространство. Кстати, внешний вид пользовательского интерфейса можно поменять. Например, поставить скины MSI Mystic Afterburner skin или MSI Cyborg skin White by Derex Design — это делается через «Настройки» —> «Интерфейс».

Некоторые настройки и функции будут работать только с видеокартами MSI или определенными моделями от других производителей. Хотя MSI Afterburner совместим со всеми видеокартами (и NVIDIA, и AMD), не все параметры могут быть доступны.

1. Основные параметры видеокарты: частота графического процессора, частота памяти, напряжение в графическом процессоре, температура графического процессора.

2. Левое боковое меню сверху вниз: помощь (с выходом в интернет), тест (через MSI Kombustor), информация, сканер разгона, настройки, меню мониторинга.

Сканер разгона выполняет автоматический разгон видеокарты и тестирует стабильность ее работы с помощью технологии NVIDIA OC Scanner. По сути, это самый быстрый способ разогнать карту, но проверки стоит проводить в любом случае.

Утилита автоматически подбирает частоты, на которых компьютер может работать стабильно. Процесс занимает разное количество времени в зависимости от модели видеокарты. Правда, разгон не всегда будет стабильным — тогда программа выдаст «Results are considered unstable».

3. Настройка напряжения, частоты памяти и процессора и скорость работы вентиляторов:

• Core Voltage (напряжение ядра) — регулирует напряжение, подаваемое на главный графический процессор. Эта функция доступна далеко не на всех моделях, а только на тех, где есть программируемые микросхемы регуляторов напряжения — обычно это указано в технических характеристиках. Внизу находится Curve Editor — редактор кривой напряжения/частот.

• Core Clock/Memory Clock (частота ядра/частота памяти). Настройка частоты ядра без изменения кривой может привести к различным сбоям. «Играться» с частотой памяти тоже нужно осторожно.
• Fan (вентиляторы): Power Limit отвечает за лимит энергопотребления ведущего графического процессора. В Temperature Limit выставляется предел нагрева ведущего ГП. Fan Speed регулирует скорость вращения кулера на ведущем ГП. Функция доступна не на всех моделях — нужно, чтобы на устройстве была микросхема регулирования кулеров/системы охлаждения.

4. Профили. Это ваши сохраненные настройки. Например, в профиле 1 могут быть параметры для рутинной работы с компьютером, в профиле 2 — для простых шутеров, а в профиле 3 — настройки с разгоном и фиксированной скоростью кулера для более тяжелых игр.

Разгоняем видеокарту в Afterburner

Разгон видеокарты зависит от конкретной модели, её конструкции, охлаждения и других параметров. Обычно производители предоставляют возможность небольшого разгона через программное обеспечение или специальные утилиты.

В прошлом году энтузиаст Аллен «Splave» Голиберзах установил мировой рекорд разгона GPU. Он смог разогнать ASUS GeForce RTX 4090 ROG Matrix до 3885 МГц. В ней стоит необслуживаемая система жидкостного охлаждения, но оверклокеру все равно пришлось её переделывать и даже использовать жидкий азот. Так, температура GPU была -34,6°С, а «горячей точки» — -40°С. Память при этом работала на частоте 1563 МГц. Среди других комплектующих — процессор Intel Core i9-13900KF, оперативная память DDR5-6446 и материнская плата ASRock Z690 Aqua OC.

Оптимальный разгон видеокарты обычно составляет около 10-20% от стандартной частоты GPU и памяти. Однако нужно помнить, что разгон может повлиять на срок службы видеокарты, стабильность её работы и тепловыделение. Поэтому перед этим стоит ознакомиться с инструкциями по безопасному разгону и следить за температурой и частотами. А ещё можно заглянуть в эту таблицу предельного разгона частот GPU на разных видеокартах, собранную одним из энтузиастов. Если не соблюдать рекомендации, на экране появятся такие артефакты:

Шаги для безопасного разгона видеокарты

1. Увеличьте мощность вашего графического процессора (Power Limit) на максимум. Не волнуйтесь, это полностью безопасно.
2. Постепенно повышайте тактовую частоту (Clock Speed), но не более чем на 5% за раз.
3. Увеличьте частоту памяти. Оптимально — на 10-20%. Конечно, можно поставить и более высокие настройки, но это уже из рубрики «Эксперименты».
4. Проведите бенчмарк-тест, например, с помощью 3DMark Time Spy, чтобы проверить стабильность работы компьютера. Это приложение нужно скачать отдельно. Если не появляются артефакты и синий экран, то можно продолжать постепенно повышать частоты.
5. Еще одна опция — оптимизация напряжения (Voltage) на видеокарте для бóльших экспериментов с разгоном и достижения высоких частот. Регулировка напряжения по дефолту заблокирована из соображений безопасности, поэтому, чтобы настраивать этот параметр, нужно снять блокировку в расширенных настройках. Но все на свой страх и риск: увеличивать Voltage нужно аккуратно, поскольку на компьютере может стоять некачественный блок питания, который может сгореть. Рекомендуется повышать напряжение с шагом 25 мВ или 0,025 В. Будьте готовы к тому, что это приведет к умеренному увеличению энергопотребления и тепловыделения.
6. Сохраните настройки и проведите еще один бенчмарк-тест. Если сбой в работе компьютера не произошел, значит, разгон стал стабильным, и вы можете продолжать экспериментировать с частотами GPU и памяти. Если компьютер все равно выходит из строя, нужно увеличить напряжение. В один момент графический процессор достигнет предела, и вам придется прекратить эксперименты с частотами и напряжением и выбрать стабильную и безопасную комбинацию.

Про кулеры

MSI Afterburner позволяет эффективно управлять скоростью вращения вентиляторов видеокарты. Это особенно полезно при разгоне, когда видеокарта работает на повышенных частотах и требует усиленного охлаждения. В программе есть три варианта настройки:

1. Автоматический режим. Для этого нужно нажать кнопку А (Auto) в блоке Fan. В таком случае работа кулеров будет подстраиваться под температуру GPU.
2. Фиксированная скорость. Нужно отключить автоматический режим и поставить бегунок Fan на нужную скорость. В таком случае кулеры будут крутиться всегда, например, на 100%.
3. Ручная настройка. Зайдите в «Настройки» —> «Кулер» —> «Включить программный пользовательский авторежим». Нажмите на линию графика, чтобы добавить контрольные точки. Каждая точка будет соответствовать определенной температуре и скорости вращения вентилятора.
   

Также в MSI Afterburner вы можете создать несколько профилей вентиляторов для разных режимов работы (например, для игр и повседневного использования) и переключаться между ними.

Мониторинг

Настройка графиков мониторинга поможет вам отслеживать ключевые параметры:

• температуру каждого ядра центрального процессора;
• загрузку всех ядер ЦП;
• частоту памяти и ядра видеокарты;
• температуру видеокарты;
• загрузку памяти видеоядра.

Это важно для обеспечения стабильной работы и предотвращения перегрева.

В «Настройках» —> «Мониторинг» можно настроить параметры, которые программа будет отображать.

К тому же MSI Afterburner интегрируется с RivaTuner Statistics Server (RTSS), которая предоставляет дополнительные возможности для настройки и отображения параметров мониторинга. RTSS обычно устанавливается вместе с MSI Afterburner. Если у вас его нет, вы можете скачать и установить его отдельно.

Утилита позволяет выводить информацию о работе видеокарты, например, FPS, поверх всех приложений — это особенно удобно в играх. В ней можно настроить параметры отображения, такие как размер шрифта, положение на экране и прозрачность. Это поможет сделать информацию мониторинга более удобной и наглядной без необходимости сворачивать игру и заходить в MSI Afterburner.

Разгон видеокарты с помощью MSI Afterburner — это эффективный способ повысить производительность вашей системы. Следуя этому руководству, вы сможете безопасно настроить MSI Afterburner для достижения оптимальной производительности вашей видеокарты. Не забывайте также о важности мониторинга и тестирования на стабильность, чтобы избежать возможных проблем. Помните, что разгонять видеокарту нужно осторожно — перед этим изучите технические характеристики модели.

Не имея предварительного опыта в этой области, Адаму потребовалось всего две недели, чтобы завершить проект, что сам по себе является впечатляющим достижением.

Процесс создания начался с изучения основ GPU и закончился полноценным чипом, спроектированным в Verilog и проверенным с помощью программного обеспечения OpenLane EDA.

Адам описал весь процесс в соответствующем Twitter-треде, предоставив подробное описание каждого этапа разработки.

Проект был ориентирован на создание GPU для общих параллельных вычислений (GPGPU), что предусмотрело корректировку архитектуры инструкций, включающую всего 11 команд.

Это позволило оптимизировать процессор для выполнения сложных математических операций, таких как сложение и умножение матриц, что необходимо в графических задачах и машинном обучении.

Несмотря на начальный успех, создание GPU в Verilog принесло ряд сложностей, связанных с памятью и реализацией расписания задач. Советы известного программиста Джорджа Хотца помогли Адаму преодолеть эти препятствия. Третья переработка кода решила проблемы с расписанием выполнения вычислений в вычислительных ядрах.

В итоге Адам добился работоспособности своего GPU, доказав это видео с демонстрацией работы ядра матричного сложения:

Хотя работа Адама не претендует на звание лучшей видеокарты, она отражает важность инноваций и DIY-подхода в технологической сфере.

По словам инженера, он насладился созданием визуализации своего дизайна GPU и с нетерпением ждет получения готового чипа.

Предрелизная доработка ядра Linux 4.18

Два месяца, прошедшие с момента объявления релиз-кандидата Linux 4.18-rc1, разработчики проводили тестирование и устраняли неполадки ядра. По словам Торвальдса, продукт планировалось выпустить неделей ранее, однако было решено исправить некоторые частные недочёты, связанные с сетью, а также с драйверами и VFS.

Наиболее важные изменения

Изменения коснулись работы с процессорами, файловой системой и хранилищами данных, обработки графики. Некоторые новые возможности Linux 4.18 стоит выделить особо.

• Базовая поддержка Qualcomm Snapdragon 845 SoC.
• Интеграция в ядро поддержки Steam Controller от Valve.
• В ядро добавлена базовая инфраструктура для BPFILTER, обрабатывающего запросы API iptables и передающего их в программы BPF.
• Вызов системы Restartable Services для быстрой обработки данных в user-space.
• DRM-драйвер AMDGPU теперь поддерживает обработку графики VegaM на Intel Kabylake-G CPUs, а также готовящуюся к релизу графическую карту, известную как GPU AMD Vega 20.
• Различные улучшения управления питанием AMDGPU, такие как профили для Vega.
• Вычислительный драйвер ядра AMDKFD теперь поддерживает оборудование GFX9/Vega.
• Intel доработал поддержку микроархитектуры Ice Lake.
• Реализован DM Writecache, который может применяться для кэширования операций записи блоков на SSD-накопителях или в постоянной памяти.
• Доработана поддержка USB 3.2 и USB Type-C.

Уже стартовала работа над большим обновлением Linux 4.19. Предполагается, что это будет последняя версия перед 5.0.

Что это значит?

В основном докладе конференции Хуанг указал на то, что графические чипы Nvidia стали в 25 раз быстрее, чем были 5 лет назад. Если бы процессоры развивались согласно закону Мура, то скорость увеличилась бы в 10 раз. Позже Хуанг рассмотрел увеличение мощности графических процессоров с точки зрения скорости обучения нейронной сети AlexNet, способной запоминать 15 млн картинок. 5 лет назад обучение нейросети на связке из двух видеокарт Nvidia GTX 580 заняло 6 дней. Теперь с системой DGX-2 это занимает 18 минут, то есть в 500 раз быстрее.

Перспективы

Дженсен Хуанг считает, что графические процессоры нуждаются в новом собственном законе. Так выгода будет получена сразу в нескольких сферах: архитектуре, связи, технологиях памяти и алгоритмах.

Графические процессоры работают быстрее, чем центральные процессоры, благодаря параллельной архитектуре.

Напомним, что на прошедшей в марте 2018 года конференции GDC Nvidia совместно с Microsoft представила новую технологию трассировки лучей, которая стала реализуема благодаря передовой архитектуре от «лагеря зеленых» — Volta.

Курс включает в себя обзор библиотек линейной алгебры, преобразования Фурье, генерации случайных чисел. Также рассмотрен процесс быстрой разработки с помощью STL-подобной библиотеки Thrust.

Как она это сделала?

Facebook удалось существенно сократить время обучения за счет распределения больших по размеру пакетов данных на большее количество графических процессоров. Раньше пакеты из 256 картинок распределялись между восемью GPU, теперь же используются наборы из 8192 картинок, распределенных между 256 графическими процессорами.

На начальных этапах команде пришлось замедлить темпы обучения, чтобы преодолеть некоторые трудности, которые раньше не позволяли использовать пакеты больших размеров. Если не углубляться в детали, для обучения модели ResNet-50 используется стохастический градиентный спуск.

Почему именно такой способ?

Его ключевой переменной является скорость обучения — а именно, степень изменения весов во время процесса тренировки. Изменение этой переменной в зависимости от размера пакетов и является ключом к оптимизации.

При обучении нейронных сетей всегда приходится искать компромисс между точностью и скоростью. Чем больше наборы данных, тем дольше идёт обучение и тем точнее становится модель, но это занимает больше времени. Однако модель с низкой точностью, обучаемая за 20 секунд, тоже никому не нужна.

В отличие от большинства исследовательских проектов, команды Facebook AI Research (FAIR) и Applied Machine Learning (AML) работали над увеличением пакетов. В ходе исследований у учёных возникли дополнительные вопросы, которые они планируют решить. Питер Нордхаус, сотрудник AML, отметил:

Эта работа дает больше вопросов, чем ответов. Например, когда количество изображений превышает 8 тысяч, частота ошибок снова увеличивается, и мы не знаем, почему.

Facebook использовала для эксперимента Caffe2, свой открытый фреймворк для глубокого обучения, и серверы Big Basin.

Он сообщает, что его работа по сути является наглядной демонстрацией для себя самого и всех желающих того, как можно использовать вычислительные шейдеры в OpenGL.

Напомним, вычислительные шейдеры — это программы, запущенные на видеокарте за пределами территории обычного рендеринга. Они могут быть использованы для массивных параллельных GPGPU алгоритмов или для ускорения элементов рендеринга программы.

Автор проверял работу своего творения только на Debian-based ОС (таких как Ubuntu или Mint, например), но работать по идее должно везде. Необходима поддержка OpenGL 4.3, а также наличие библиотек xorg-dev и mesa-common-dev. Если это всё у вас есть, то просто скачивайте и выполняйте cmake && make && cd bin/ && ./particleSim.

Или посмотрите видео.

Ключевые выводы:
- CPU оптимизирован для последовательного выполнения сложных инструкций с минимальной задержкой
- GPU содержит тысячи ядер для массовой параллельной обработки однотипных задач
- CPU использует большой кэш и предсказание ветвлений, GPU — массив исполнительных блоков
- Для майнинга GPU подходит лучше, потому что вычисление хэшей — это миллионы независимых однотипных операций
- CPU и GPU дополняют друг друга: CPU управляет логикой программы, GPU ускоряет параллельные вычисления

Примечание Вы читаете улучшенную версию некогда выпущенной нами статьи.

Содержание:

• Что такое CPU
• Что такое GPU
• Отличие CPU от GPU
• Почему для майнинга используется GPU, а не CPU
• Часто задаваемые вопросы

Что такое CPU

CPU — это центральный процессор (англ. central processing unit).

Основная функция — выполнение цепочки инструкций за максимально короткое время.

CPU спроектирован таким образом, чтобы выполнять несколько цепочек одновременно или разбивать один поток инструкций на несколько и, после выполнения их по отдельности, сливать их снова в одну, в правильном порядке. Каждая инструкция в потоке зависит от следующих за ней. Именно поэтому в CPU так мало исполнительных блоков, а весь упор делается на скорость выполнения и уменьшение простоев, что достигается при помощи кэш-памяти и конвейера.

Если вы хотите знать не только что такое CPU, но и как работает процессор, то прочтите эту статью.

Что такое GPU

GPU — это графический процессор (англ. graphics processing unit).

Основная функция — рендеринг 3D-графики и визуальных эффектов.

GPU получает на вход полигоны, а после проведения над ними необходимых математических и логических операций выдаёт координаты пикселей. По сути, работа GPU сводится к оперированию над огромным количеством независимых между собой задач. Поэтому он содержит огромное количество исполнительных блоков — в современных GPU их 2048 и более.

Отличие CPU от GPU

С понятиями разобрались, теперь посмотрим, в чём отличие CPU от GPU.

1. Доступ к памяти. В GPU он связанный и легко предсказуемый — если из памяти читается элемент текстуры, то через некоторое время настанет очередь и соседних текселов. С записью ситуация аналогичная.
2. Размер кэш-памяти. Графическому процессору, в отличие от универсальных процессоров, не нужна кэш-память большого размера. Для текстур требуются лишь 128–256 килобайт.
3. Поддержка многопоточности. Центральный процессор исполняет 1––2 потока вычислений на одно ядро, а графический процессор может поддерживать несколько тысяч потоков на каждый мультипроцессор, которых в чипе несколько штук. И если переключение с одного потока на другой для CPU стоит сотни тактов, то GPU переключает несколько потоков за один такт.
4. Архитектура. В CPU большая часть площади чипа занята под буферы команд, аппаратное предсказание ветвления и огромные объемы кэш-памяти, а в GPU большая часть площади занята исполнительными блоками.

Почему для майнинга используется GPU, а не CPU

Если CPU принимает решения в соответствии с указаниями программы, то GPU — производит огромное количество однотипных вычислений. Выходит, что если подавать на графический процессор независимые простейшие математические задачи, то он справится значительно быстрее, чем центральный процессор. Этим успешно пользуются майнеры биткоинов.

Суть майнинга заключается в том, что компьютеры решают математические задачи, в результате которых создаются биткоины. Все биткоин-переводы по цепочке передаются майнерам, чья работа состоит в том, чтобы подобрать из миллионов комбинаций один-единственный хэш, подходящий ко всем новым транзакциям и секретному ключу, который и обеспечит майнеру получение награды. Скорость вычисления напрямую зависит от количества исполнительных блоков. Поэтому GPU больше подходят для выполнения данного типа задачи, нежели CPU. Чем больше количество произведенных вычислений, тем выше шанс получить биткоины.

Часто задаваемые вопросы

Может ли GPU полностью заменить CPU?

Нет, GPU не может заменить CPU. Центральный процессор управляет операционной системой, обрабатывает ввод-вывод, принимает решения на основе условий и координирует работу всех компонентов. GPU эффективен только для массовых параллельных вычислений — рендеринга графики, обучения нейросетей, криптографии. Эти процессоры дополняют друг друга, а не конкурируют.

Почему в GPU так много ядер, а в CPU — мало?

CPU решает задачи, где каждая следующая инструкция зависит от предыдущей, поэтому ему нужны мощные ядра с большим кэшем и предсказанием ветвлений. GPU обрабатывает тысячи независимых задач одновременно (например, пиксели на экране), поэтому ему выгоднее иметь много простых ядер. Это фундаментальное различие архитектур: CPU — про скорость одного потока, GPU — про количество параллельных потоков.

Где ещё используется GPU кроме графики и майнинга?

GPU активно применяется в машинном обучении и обучении нейросетей (TensorFlow, PyTorch), научных вычислениях (моделирование молекул, прогноз погоды), обработке видео и рендеринге 3D-сцен, криптографии и шифровании. Технология GPGPU (General-Purpose computing on GPU) позволяет использовать видеокарты через фреймворки CUDA (NVIDIA) и OpenCL для любых параллельных вычислений.

Что такое CUDA и OpenCL?

CUDA — проприетарная платформа параллельных вычислений от NVIDIA, позволяющая программировать GPU как универсальный вычислитель. OpenCL — открытый стандарт, работающий на GPU разных производителей (NVIDIA, AMD, Intel). Оба фреймворка позволяют разработчикам запускать на GPU не только графические, но и произвольные параллельные вычисления, что используется в машинном обучении, обработке данных и научных расчётах.