Сервер — Материалы для программистов

Новости

Почему уязвимость MongoBleed в MongoDB опаснее, чем кажется

А переживать есть из-за чего

Новости

Сжать государственную VIN-базу с 1,5 ГБ до 21 МБ? Реально! Разработчик рассказал как

Нет, это не мем

7 облаков, которые не падают в проде

Сравнение 7 российских облачных платформ: от быстрых PaaS-решений до отказоустойчивых IaaS и выделенных серверов. На что смотреть при выборе облака для продакшена.

Новости

GitHub начнет брать деньги даже за локальные Actions пользователя уже с 2026 года

Ах так, значит??

Новости

MAX лег — тысячи жалоб по всей стране. Что известно на данный момент

Френдли фаер?

Новости

Японский школьник взломал 7 млн аккаунтов через вайб-хакинг с ChatGPT

Интересна реакция OpenAI на произошедшее

Новости

ИИ сломал рынок памяти: Transcend сворачивает выпуск SSD, Crucial закрывается

Творится какое-то безумие

Виктория Эберт для Tproger

Как встроить локальную LLM в прод: от выбора модели до мониторинга токенов

Локальный прод делает нас независимыми от внешних API: капризы провайдеров, модерация, отключения или апдейты моделей больше не ломают воркфлоу. Но хайп вокруг локальных моделей часто разбивается о суровую реальность стоимости железа и поддержки. Разбираемся, из чего состоит инфраструктура прода для локальных LLM, что важнее — размер модели или TPS и какие метрики нужно вывести на дашборд, чтобы ничего не упало.