Перетяжка, Премия ТПрогер, 13.11
Перетяжка, Премия ТПрогер, 13.11
Перетяжка, Премия ТПрогер, 13.11
Инструменты
Инструменты

Обзоры удобных средств разработки, подборки инструментов, упрощающих выполнение рутинных задач, а также инструкции и руководства по их использованию

Виктория Эберт для Tproger

Как встроить локальную LLM в прод: от выбора модели до мониторинга токенов

Локальный прод делает нас независимыми от внешних API: капризы провайдеров, модерация, отключения или апдейты моделей больше не ломают воркфлоу. Но хайп вокруг локальных моделей часто разбивается о суровую реальность стоимости железа и поддержки. Разбираемся, из чего состоит инфраструктура прода для локальных LLM, что важнее — размер модели или TPS и какие метрики нужно вывести на дашборд, чтобы ничего не упало.

Как встроить локальную LLM в прод: от выбора модели до мониторинга токенов
6773
Ермакова Лиля

Кейс Reddit: встреча юнит-экономики и FinOps

Сложные финансовые модели "сверху-вниз" провалились, так как инженеры их не понимали. Компания перешла к подходу "снизу-вверх": разработчики сами определяют метрики эффективности, на которые могут влиять. Успех FinOps — это не точные прогнозы, а общая культура, единый язык и ответственность команд. Эффективность должна стать частью ДНК инженеров.

Кейс Reddit: встреча юнит-экономики и FinOps
1682