Со-основатель OpenAI Карпати: автономные ИИ-программисты — мечта, а не реальность

Со-основатель OpenAI и бывший директор Tesla по ИИ Андрей Карпати, заявил, что автономные ИИ-программисты пока далеки от реальности.

В подкасте Dwarkesh Podcast он назвал идею полностью независимых ИИ-агентов «мечтой, но не рабочей технологией».

Они просто не работают. Им не хватает интеллекта, мультимодальности, способности пользоваться компьютером. У них нет памяти, нет постоянного обучения. Они когнитивно ограничены — это пока не работает.

Андрей Карпатисо-основатель OpenAI

По его оценке, на решение всех этих проблем уйдет около 10 лет.

Переоцененные «агенты»

ИИ-агенты стали главным трендом 2025 года: инвесторы называют его «годом агентов», а стартапы обещают, что боты смогут самостоятельно писать код, управлять системами и даже взаимодействовать с людьми без вмешательства пользователя.

Но Карпати считает, что индустрия перепрыгнула через собственные возможности. В посте на X он уточнил:

Индустрия живет в будущем, где полностью автономные ИИ создают код параллельно и люди больше не нужны. Но я не хочу жить в таком будущем.

Андрей Карпатисо-основатель OpenAI

Вместо замены — сотрудничество

Карпати выступает за совместную работу человека и ИИ, а не за полную автоматизацию.

Я хочу, чтобы ИИ подтягивал документацию API, проверял корректность, спрашивал, если не уверен. Чтобы я учился вместе с ним, а не просто получал гору кода, который «вроде работает».

Андрей Карпатисо-основатель OpenAI

Главная угроза, по мнению инженера, заключается в том, что при попытке «исключить человека из цикла», мир рискует утонуть в AI slop — некачественном контенте и ошибочном коде, генерируемом ИИ без контроля.

Карпати — не скептик, но реалист

Несмотря на критику, Карпати подчеркивает, что остается оптимистом. Его прогнозы просто «в 5–10 раз осторожнее, чем у типичного участника ИИ-вечеринки в Сан-Франциско».

Эксперты соглашаются: автономные агенты пока не способны стабильно выполнять даже серию простых действий. По оценкам специалистов ScaleAI, при пяти последовательных шагах вероятность безошибочного выполнения всех действий не превышает 32%.

Так что мечта большого бизнеса о полностью автономных «ИИ-разработчиках» пока остается именно мечтой.