Андрей Карпати выложил LLM Council — инструмент, где ИИ спорят и выбирают лучший ответ

Андрей Карпати выложил в открытый доступ LLM Council — локальное веб-приложение, в котором несколько ИИ-моделей отвечают на один вопрос, спорят между собой и выбирают финальный ответ.

Проект выглядит как ChatGPT, но под капотом — работа через OpenRouter и цепочка из трех этапов: сбор ответов, взаимная оценка и «решение совета» .

Карпати честно пишет, что это «на 99% вайб-кодинг», субботний хак для души. И он не планирует развивать проект. Но сообщество уже разнесло репозиторий по соцсетям — идея демократичного «совета ИИ» оказалась вирусной.

Как работает LLM Council

По задумке Карпати, механизм должен показать, как разные модели видят одну и ту же задачу — и что они думают о чужих ответах.

1. Первая стадия — мнения. Каждая модель получает вопрос и генерирует свой ответ. В интерфейсе они показываются в отдельных вкладках, чтобы можно было сравнить.

2. Взаимные ревью. Затем модели получают ответы своих «коллег», но с анонимизацией имен, чтобы не было фаворитизма. Каждая модель ранжирует остальные по точности и полезности .

3. Финальное решение. Выбранный «председатель» — любая из моделей, которую укажет пользователь — собирает всю критику, мнения и свои выводы в итоговый ответ. Получается что-то вроде консенсуса.

Что внутри

В README Карпати описывает минималистичный стек:

• Backend: FastAPI + async httpx, работа через OpenRouter API.
• Frontend: React + Vite, рендеринг через react-markdown.
• Хранилище: JSON-файлы в data/conversations/.
• Управление проектом: uv для Python, npm для фронтенда .

Пользователь добавляет свой OPENROUTER_API_KEY и при желании меняет «состав совета». По умолчанию туда входят GPT-5.1, Gemini 3 Pro Preview, Claude Sonnet 4.5 и Grok-4.

Зачем это вообще нужно

Карпати пишет, что пилил проект для совместного с LLM чтения книг и сравнения, как разные модели анализируют один и тот же материал. Но по факту инструмент получился куда интереснее:

• это способ быстро оценить качество моделей;
• это визуализатор «множественного ИИ-мышления»;
• это мини-демонстрация того, как устроены будущие агентные системы, где несколько моделей принимают решения совместно.

И да, все это — буквально субботний хак, который уже набрал несколько тысяч звезд на GitHub.