Какую видеокарту купить для локальной LLM в 2026 году: цены и память
Сопоставили размеры открытых моделей, цены российских магазинов и замеры llama.cpp, чтобы выбрать видеокарту под локальную нейросеть.
Для локальной языковой модели видеокарту выбирают по объёму видеопамяти: модель либо помещается в неё целиком и отвечает быстро, либо частично уезжает в оперативную память и замедляется. Поэтому карта 2021 года на 12 ГБ для этой задачи может оказаться полезнее новой на 8 ГБ, а стоит дешевле.
Мы сопоставили три набора данных на 16 ноября 2026 года: размеры файлов популярных открытых моделей на Hugging Face, цены в каталогах «Регарда» и «Ситилинка» и замеры скорости, которые участники проекта llama.cpp собирают по единой методике. Ниже — сколько памяти нужно под конкретные модели, сколько стоит гигабайт у разных карт и что брать под свой бюджет.
Ключевые выводы
- Квант на 4 бита модели Qwen3.8-27B занимает 17,66 ГБ и требует карту на 24 ГБ; модели от 9 до 12 млрд параметров в таком же кванте весят от 6 до 7,4 ГБ и помещаются в 12 ГБ.
- Самый дешёвый гигабайт видеопамяти в «Регарде» у RTX 3060 на 12 ГБ: 47 120 рублей за карту, около 3 930 рублей за гигабайт. У RTX 5090 на 32 ГБ за 849 990 рублей гигабайт стоит около 26 560 рублей.
- 24 ГБ дешевле всего даёт Intel Arc Pro B60 за 125 480 рублей, но в общем тесте llama.cpp она генерирует 65 токенов в секунду против 177 у RTX 5070 Ti.
- На картах меньше 24 ГБ Ollama по умолчанию ставит контекст 4 тыс. токенов, а для агентов и инструментов кодинга документация советует не меньше 64 000.
- Модель, которая не поместилась на одну карту, Ollama распределяет по всем доступным: две RTX 5060 Ti по 16 ГБ дают 32 ГБ за 179 980 рублей.
Сколько видеопамяти нужно локальной LLM?
Столько, сколько весит файл модели, плюс запас на контекст. Локально модели запускают в сжатом виде: вместо 16 бит на вес оставляют от 4 до 8. В формате GGUF, с которым работают llama.cpp и Ollama, самый ходовой вариант называется Q4_K: по документации Hugging Face, на каждый вес в нём уходит 4,5 бита. Вариант Q8_0 хранит вес в 8 битах, Q2_K в 2,625 бита. Чем сильнее сжатие, тем меньше файл и тем заметнее падает качество ответов.
Оценить размер можно в уме: число параметров умножить на число бит и разделить на 8. Для модели на 27 млрд параметров в Q4_K получится около 15 ГБ. Реальные файлы немного больше, потому что часть слоёв хранится точнее. Мы взяли шесть популярных репозиториев команды Unsloth на Hugging Face и выписали размеры файлов на 16 ноября 2026 года.
Размер файлов GGUF популярных открытых моделей
6 сервисов, 5 столбцов
Листайте столбцы →Смахните влевоВсе 5 столбцов
Hugging Face, репозитории unsloth/*-GGUF, 16 ноября 2026 года; последний столбец — оценка Tproger
Из таблицы видны три ступени. В 8 ГБ помещаются модели до 9 млрд параметров. В карты на 12 и 16 ГБ входят модели около 12 млрд, причём на 16 ГБ уже в 8-битном варианте. Модели на 26 или 27 млрд параметров требуют 24 ГБ; к этому классу относится самый скачиваемый репозиторий из шести, Qwen3.8-27B с 6,7 млн загрузок за месяц. У Qwen3.8-27B есть и 2-битный файл на 9,95 ГБ, он запустится на карте с 12 ГБ, но за такое сжатие платят качеством.
Сверх файла нужна память под контекст: чем длиннее диалог или загруженный код, тем больше занимает кэш. Точной формулы документация не даёт, поэтому на практике оставляют запас в пару гигабайт и проверяют фактическую загрузку. Модель на 22,36 ГБ в карту на 24 ГБ формально помещается, но на длинный контекст места почти не остаётся.
Почему на 16 ГБ агент забывает начало задачи?
Потому что Ollama подбирает длину контекста по объёму видеопамяти, и для карт младше 24 ГБ это всего 4 тыс. токенов. Правило записано в документации: при объёме меньше 24 ГиБ ставится контекст 4k, от 24 до 48 ГиБ доступно 32k, а от 48 ГиБ открываются 256k.
Tasks which require large context like web search, agents, and coding tools should be set to at least 64000 tokens.
Контекст можно поднять вручную, но документация предупреждает: чем он длиннее, тем больше памяти нужно модели. Команда из того же раздела:
После запуска модели стоит проверить, куда она загрузилась. Команда ollama ps показывает размер в памяти, выделенный контекст и долю, которая попала на видеокарту. Пример вывода из документации:
В столбце PROCESSOR должно стоять 100% GPU. Запись вида 48%/52% CPU/GPU, по FAQ Ollama, означает, что модель частично лежит в оперативной памяти, и скорость упадёт. Сэкономить помогает сжатие самого кэша: переменная OLLAMA_KV_CACHE_TYPE=q8_0 при включённом Flash Attention сокращает его примерно вдвое, и документация называет потерю точности очень небольшой.
Сколько стоит гигабайт видеопамяти в российских магазинах?
От 3,9 до 26,6 тыс. рублей, и дороже всего он у самых быстрых карт. Мы выгрузили каталог видеокарт «Регарда» целиком, 275 позиций, и взяли минимальную цену каждой модели среди товаров в наличии. В «Ситилинке» удалось просмотреть 102 карточки из каталога, поэтому его цены — самые низкие из найденных нами. Обе выборки сделаны 16 ноября 2026 года, цены розничные для Москвы.
Цены на видеокарты для локальных моделей, рубли
14 сервисов, 5 столбцов
Листайте столбцы →Смахните влевоВсе 5 столбцов
каталоги regard.ru и citilink.ru, 16 ноября 2026 года; расчёт Tproger
При сортировке каталога «Ситилинка» по убыванию цены первой 16 ноября шла RTX 5080 за 265 520 рублей, то есть RTX 5090 там не продавалась; профессиональных карт с 24 ГБ и больше среди просмотренных позиций мы тоже не нашли. В «Регарде» RTX 5090 на 32 ГБ представлена несколькими позициями от 849 990 до 999 990 рублей. Карт прошлых поколений на 24 ГБ, RTX 3090 и RTX 4090, а также Radeon RX 7900 XTX среди новых товаров обоих магазинов мы не нашли.
Карты на 8 ГБ в таблицу не попали намеренно. RTX 5060 на 8 ГБ стоит в «Регарде» от 54 990 рублей, RTX 5060 Ti на 8 ГБ от 60 990, Radeon RX 9060 XT на 8 ГБ от 56 990. Все три дороже RTX 3060 на 12 ГБ, а модели на 12 млрд параметров в 4-битном кванте (7,37 ГБ) оставляют в них меньше гигабайта под контекст.
Насколько дешёвые карты медленнее дорогих?
Между самой быстрой и самой медленной картой из нашей таблицы разница в 4,5 раза. Сравнимые цифры даёт общий тест проекта llama.cpp: участники запускают одну и ту же модель Llama 2 7B в кванте Q4_0 утилитой llama-bench и публикуют результаты в обсуждениях на GitHub, отдельно для CUDA и для Vulkan. Команда теста:
Параметр -ngl 99 выгружает все слои модели на видеокарту. Метрика tg128 показывает скорость генерации 128 токенов. Ниже результаты без Flash Attention для карт из нашей таблицы цен: у NVIDIA через CUDA, у AMD и Intel через Vulkan.
Результаты в токенах в секунду: RTX 5090 290, RTX 5080 182, RTX 5070 Ti 177, RTX 5070 128, RTX 5060 Ti на 16 ГБ 91, RTX 3060 76. У AMD через Vulkan Radeon RX 9070 XT показывает 137, RX 9060 XT 71, у Intel Arc Pro B60 выходит 65. Из карт, которых нет в магазинах, RTX 4090 набирает 186, RTX 3090 158.
У этих цифр три ограничения. Тест идёт на маленькой модели, которая помещается в любую карту, поэтому показывает соотношение карт между собой, а не скорость на модели с 27 млрд параметров. Результаты присылают разные люди на разных системах. Кроме того, сравнение NVIDIA с AMD и Intel идёт через разные программные слои.
Performance may vary depending on driver, operating system, board manufacturer, etc. even if the chip is the same.
Главный вывод из сопоставления: RTX 5080 быстрее RTX 5060 Ti вдвое и дороже в 2,4 раза, но памяти у обеих 16 ГБ, и набор моделей, которые в них помещаются, одинаковый. За скорость имеет смысл доплачивать только после того, как закрыт вопрос объёма.
Подойдут ли карты AMD и Intel?
Да, но с оговорками по драйверам. В документации Ollama перечислены три пути. Карты NVIDIA работают через CUDA: нужен драйвер версии 550 или новее, а для старых карт с compute capability от 5.0 до 6.2, включая GTX 750 и серию GTX 10, версии 570 или новее. В списке поддержки поколения от GTX 750 до RTX 50. Карты AMD работают через библиотеку ROCm: на Linux в списке поддержки есть вся серия RX 9000 и Radeon AI PRO R9700, на Windows список короче и заканчивается серией RX 7000. Остальные карты, включая Intel Arc, идут через Vulkan.
В llama.cpp набор бэкендов похожий: по инструкции по сборке, это CUDA для NVIDIA, HIP для AMD, SYCL для Intel и общий Vulkan. На практике это значит, что с NVIDIA всё заработает сразу, а для AMD и Intel стоит заранее проверить, что нужная программа поддерживает вашу карту в вашей операционной системе. Если вы собираетесь поднимать сервер для нескольких пользователей, требования другие: их мы разбирали в статье про vLLM.
Что купить под свой бюджет?
Ниже варианты по возрастанию цены. Цены взяты минимальные в «Регарде» на 16 ноября 2026 года, скорости — из теста llama.cpp на Llama 2 7B.
- До 50 тыс. рублей: RTX 3060 на 12 ГБ, 47 120 рублей. Модели до 12 млрд параметров в 4-битном кванте, 76 токенов в секунду в тесте. Лучший вход, если задача — чат, перевод, разбор документов.
- От 70 до 90 тыс.: Radeon RX 9060 XT на 16 ГБ за 71 990 или RTX 5060 Ti на 16 ГБ за 89 990. Те же модели уже в 8 битах или с длинным контекстом. Radeon дешевле на 18 000 рублей, RTX быстрее в тесте (91 против 71 токена в секунду) и проще в настройке.
- 125 тыс.: Intel Arc Pro B60 на 24 ГБ, 125 480 рублей. Самый дешёвый способ запустить Qwen3.8-27B и Gemma 4 26B-A4B в 4 битах целиком на видеокарте. Цена такого объёма — скорость ниже, чем у RTX 3060, и работа через Vulkan или SYCL.
- От 165 до 215 тыс.: RTX 5070 Ti и RTX 5080. Вдвое быстрее RTX 5060 Ti при тех же 16 ГБ. Для языковых моделей покупка оправдана, только если карта нужна ещё и для игр или генерации изображений.
- От 310 до 372 тыс.: RTX PRO 4000 Blackwell на 24 ГБ или Radeon AI PRO R9700 на 32 ГБ. Профессиональные карты с большим объёмом; R9700 в тесте Vulkan выдаёт 146 токенов в секунду.
- От 500 тыс.: RTX 5090 D V2 на 24 ГБ за 499 990 или RTX 5090 на 32 ГБ за 849 990. Максимальная скорость. По данным NVIDIA, RTX 5090 потребляет до 575 Вт и требует блок питания на 1000 Вт.
Отдельный вариант — две карты. Ollama и llama.cpp умеют делить модель между несколькими видеокартами. Две RTX 5060 Ti по 16 ГБ стоят 179 980 рублей и дают 32 ГБ: столько же, сколько одна RTX 5090, и в 4,7 раза дешевле. Нужны материнская плата с двумя слотами и блок питания с запасом. Прямого сравнения скорости таких конфигураций в документации нет; Ollama лишь указывает, что модель, которая целиком помещается на одну карту, загружается на неё, и обычно это быстрее.
If the model will entirely fit on any single GPU, Ollama will load the model on that GPU. This typically provides the best performance as it reduces the amount of data transferring across the PCI bus during inference.
Проверить покупку можно за несколько минут. В llama.cpp 1.0 модель скачивается и запускается командой из README проекта; вместо тестовой модели подставьте нужный репозиторий с Hugging Face:
Какие модели сейчас стоит запускать на картах от 8 до 24 ГБ, мы собираем в ежемесячных обзорах: свежий — открытые нейросети ноября 2026. Пошаговая настройка Ollama есть в отдельном гайде.
Когда своя видеокарта не нужна?
Когда модель нужна от случая к случаю или слишком велика для настольной карты. Qwen3.8-Flash-Next в кванте UD-Q4_K_XL занимает 111,33 ГБ: это больше, чем у RTX PRO 6000 Blackwell с 96 ГБ за 2,4 млн рублей. Более сжатый файл UD-IQ4_XS на 93,67 ГБ в такую карту формально входит, но на контекст остаётся около двух гигабайт. Для таких моделей и для редких задач разумнее арендовать GPU по часам; цены и условия провайдеров есть в нашей подборке облачных GPU.
Цены на видеокарты меняются быстро, а каталоги магазинов обновляются ежедневно: перед покупкой пересчитайте цену гигабайта по актуальному прайсу и сверьте размер файла нужной модели на её странице в Hugging Face. Принцип при этом остаётся прежним: сначала объём памяти под модель и контекст, затем скорость, затем всё остальное.
Частые вопросы
Хватит ли 8 ГБ видеопамяти для локальной нейросети?
Для моделей до 9 млрд параметров в 4-битном кванте хватит: Qwen3.5-9B занимает 5,97 ГБ. Модель на 12 млрд параметров (7,37 ГБ) формально помещается, но на контекст памяти почти не остаётся.
Можно ли запустить LLM без видеокарты?
Да, llama.cpp и Ollama работают на процессоре и оперативной памяти, но заметно медленнее. Ollama показывает такой режим как 100% CPU в выводе команды ollama ps.
Что лучше для LLM: RTX 5070 на 12 ГБ или RTX 5060 Ti на 16 ГБ?
Для языковых моделей RTX 5060 Ti на 16 ГБ: она дешевле (89 990 против 107 990 рублей в «Регарде») и вмещает больше. RTX 5070 быстрее в тесте llama.cpp, 128 против 91 токена в секунду, но 12 ГБ ограничивают выбор моделей.
Стоит ли искать подержанную RTX 3090?
По характеристикам карта подходит: 24 ГБ и 158 токенов в секунду в тесте llama.cpp. Новых RTX 3090 в каталогах «Регарда» и «Ситилинка» 16 ноября 2026 года нет, цены вторичного рынка мы не проверяли.
Источники: Регард: каталог видеокарт, Ситилинк: каталог видеокарт, Ollama Docs: Context length, Ollama Docs: FAQ, Ollama Docs: Hardware support, Hugging Face Docs: GGUF, llama.cpp: Performance of llama.cpp on Nvidia CUDA, llama.cpp: Performance of llama.cpp with Vulkan, GitHub: ggml-org/llama.cpp, llama.cpp: Build llama.cpp locally, Hugging Face: unsloth/Qwen3.8-27B-GGUF, Hugging Face: unsloth/gemma-4-12b-it-GGUF, Hugging Face: unsloth/Qwen3.8-Flash-Next-GGUF, NVIDIA: GeForce RTX 5090