Иллюзия Claude: почему успех в кодинге заставляет верить в сверхразум

Ян Шауманн разбирает, как иллюзия превосходства в программировании превращает языковые модели в пугающий «сверхразум».

Обложка: Иллюзия Claude: почему успех в кодинге заставляет верить в сверхразум

Перевод статьи Яна Шауманна «Signs of Triviality: The Claude Delusion», опубликованной 13 ноября 2026 года.

С успешными людьми происходит нечто странное: они начинают считать себя богами.

Для успеха, разумеется, вовсе не обязательны реальные достижения. Пожалуй, дело здесь даже больше в богатстве, чем в самом успехе. Как люди становятся богатыми? Некоторым просто везёт: повезло родиться с физическим талантом, повезло с родителями, которые могли и хотели этот талант развивать, и, конечно, довольно часто везёт оказаться в нужное время в нужном месте [1].

Везение не исключает того, что человек также много работал. Но даже — и особенно! — всякие Пэрис Хилтон, дети голливудских суперзвёзд и жулики, построившие свои коррупционные империи на «небольшом займе» (или доле в изумрудном руднике) от отцов, искренне верят, что заслужили свой успех, и делают вывод, будто все остальные сами виноваты в собственных неудачах.

Особенно ярко это проявляется в технологической среде, где годами умение хорошо программировать приравнивали к общему (и зачастую высшему) интеллекту [2]. Иллюзорное превосходство подпитывается безудержным эффектом Даннинга — Крюгера, и мысль «Я хорошо пишу код, и при доле везения мне удалось добиться успеха» стремительно превращается в цепочку рассуждений: «Я успешен. Успех не случаен, значит, я его заслужил. Похоже, я гений: я освоил программирование, а всё остальное — сущие пустяки. Следовательно, я хорош во всём».

Билл Гейтс, доктор медицины и биологии

Возьмём для примера Билла Гейтса. Стоит признать: он действительно многого достиг, а в его профессиональном багаже, без сомнения, есть и большой опыт программирования, и целый набор безжалостных монополистических бизнес-практик. В недавнем интервью The New York Times он рассказал, как оценивал прогресс OpenAI (выделение моё):

Я регулярно ездил в OpenAI посмотреть на их работу и бросил им вызов: если модель сможет прочитать учебник по биологии и сдать экзамен повышенной сложности (AP) на высший балл — пятёрку, значит, вы доказали, что она умеет читать, то есть кодировать знания в доступной форме. И вот за шесть месяцев до публичного релиза Сэм Альтман, Грег Брокман и Илья Суцкевер приезжают ко мне домой и показывают, как система получает пятёрку на экзамене AP — даже на вопросах, которые я придумал сам и которых она точно не могла видеть, на очень сложных задачах по биологии. Результат был почти идеальным. Это стало первым шоком.
Билл ГейтсИз интервью The New York Times

Билл Гейтс, безусловно, интересуется биологией и благодаря работе в Фонде Билла и Мелинды Гейтс наверняка прочитал массу статей и исследований в этой области. Но сама дерзость считать себя профильным экспертом, способным сочинить сложные оригинальные вопросы в чужой научной дисциплине для оценки реальных возможностей ИИ, а потом «шокироваться» тем, что модель сумела на них ответить, лишь подтверждает мой тезис.

Впрочем, по-настоящему сносит ему крышу мысль о том, что ИИ способен делать то, чем раньше занимался он сам: писать код.

А затем в конце прошлого года, когда модели Claude от Anthropic стали невероятно хороши в программировании, я увидел, что они пишут код так же хорошо, как я — а это мой самый развитый талант, ведь с 13 до 24 лет я был одержим тем, смогу ли программировать на уровне лучших или даже превосходить всех. В тот момент я снова подумал: это невероятно. Способность выполнять длительные и сложные задачи дошла до того, что модели стали сверхчеловеческими в написании кода и поиске ошибок в нём.
Билл ГейтсИз интервью The New York Times

Обратите внимание на выделенные мной фрагменты: сама идея, что нечто может работать «так же хорошо, как я», во-первых, с трудом укладывается в голове, а во-вторых, автоматически означает, что это нечто — «сверхчеловеческое». С самооценкой у этого человека точно полный порядок, тут сомнений нет.

Похожим образом, судя по всему, сходят с ума и многие другие технари. Именно такая логика («всё, что приближается к моему уровню, — сверхчеловечно») во многом объясняет, как мы пришли одновременно к мрачным сценариям вымирания человечества и к утопической нирване, где ИИ решает все проблемы людей (точнее, все проблемы миллиардеров, которые в основном сводятся к надоедливой смертности).

Месть нердов

Для большинства гиков умение программировать было отличительным признаком. Это казалось чем-то странным, обычные люди в этом ничего не понимали, вы говорили на собственном языке (на целых языках!) и могли заставить компьютер делать вещи. Вы понимали, как устроен интернет, а всё, что работало плохо, явно написали полные идиоты — вы бы легко переписали это сами за один вечер, если бы захотели.

И вот вы создали компьютерную программу, которая умеет делать то же самое. Уму непостижимо! К тому же она говорит! Она соглашается с вами, хвалит вас, называет блестящим — явное доказательство её собственной непогрешимости. А теперь представьте, что она окажется лучше вас. То, что поначалу кажется немыслимым, затем вселяет в сердце страх и трепет, ведь вы породили могущественного монстра со своей собственной целью и волей. (А вы наверняка прочитали достаточно бульварной фантастики, чтобы знать: однажды ваше творение придёт за вами.)

«Представляете себе кластер Беовульфа из таких штук?» — старый мем со времён Slashdot (погуглите, если не застали), появившийся ещё до того, как мемы стали массовым явлением. Мысль об армии приспешников, которые исполняют любой приказ, всегда манила гиков, жаждущих утвердить своё превосходство. Так мы и пришли к «агентам» — целым «роям» «автономных» «агентов».

К тому же такой нарратив о субъектности очень удобно снимает с вас ответственность. Это вы сами забыли нормально ограничить потенциально вредоносную программу, которую натаскали упорно взламывать чужие системы? Нет, это «агенты» «вышли из-под контроля». Вы и впрямь призвали могущественных демонов. Демонов, способных выдавать код быстрее вас (о ужас!) — код, который вы уже до конца не понимаете (хотя, конечно, могли бы, просто не хотите, некогда, да и дел полно с вашей самодельной, навороченной обвязкой). Очень быстро становится очевидно: перед нами СВЕРХИНТЕЛЛЕКТ. Сверхинтеллект, который МОЖЕТ УБИТЬ НАС ВСЕХ!

Иллюзия Claude: почему успех в кодинге заставляет верить в сверхразум_18
Изображение: Ян Шауманн, netmeister.org

Власть развращает и так далее

Выше я придрался к Биллу Гейтсу, чтобы проиллюстрировать эффект сверхуверенности, но в индустрии хватает куда более раздутых эго, которые делают смелые заявления за пределами (и даже внутри) своей предполагаемой сферы компетенции и попутно демонстрируют полнейшую неспособность сопереживать другим людям. Гвинет Пэлтроу с её советами о здоровье, Ричард Брэнсон, пытавшийся тягаться с Coca-Cola, десятки актёров, рвущихся в политику, ведущие Fox News и звёзды реалити-шоу в министерских креслах, основатель крупной соцсети, подумывающий о президентской гонке, разнообразные техностартапы, которые пытаются «перевернуть» здравоохранение, многочисленные провалы Илона Маска или очередные Элизабет Холмс и Сэмы Бэнкманы-Фриды, которых в отрасли хоть отбавляй... Для них все мы — просто NPC.

Описанный мной самообман неслучайно так быстро перерастает в банальное, откровенное мошенничество. В одном из обзоров исследований о богатстве и социальном положении эти факторы статистически связывают со снижением сочувствия. Это давно известно и встречается далеко за пределами ИТ: чёрт возьми, богатых мерзавцев, творящих мерзости, полно и в других сферах. Однако мало кто вне технологического сектора доходит до такой степени заблуждения — веры в собственное исключительное право решать судьбу человечества, в то, что они породили цифрового Прометея, и в буквального «бога из машины», которым можно вечно прикрываться и громко обещать исцеление от всех болезней — вот только бы выкроить время на эти задачи среди военных контрактов.

Вишенкой на торте смотрится притворная забота об изменении климата [3]: по оценке Sierra Club для электроэнергетики США к 2030 году, планы строительства новых дата-центров рискуют свести на нет «15 лет сокращения парниковых выбросов», а затем ещё и указывают экологические проблемы в качестве фактора риска в своём проспекте S-1.

Если это и есть новые «американские боги»... что ж, je n'ai jamais eu besoin de cette hypothèse-là (фр. «в этой гипотезе я никогда не нуждался»).

P. S.: 14 ноября 2026 года этот пост ненадолго вышел в топ Hacker News и до того, как его пометили флагами (??), собрал почти 200 комментариев. Большая часть дискуссии свернула к спору о том, хороший ли программист Билл Гейтс, хотя к сути это вообще-то совершенно не относится.

Примечания

  1. Точная цитата о том, что «Билл Гейтс учился в одной из немногих старших школ в мире, где был компьютер», взята из книги «Психология денег» Моргана Хаузела; Малкольм Гладуэлл также разбирает этот случай в книге «Гении и аутсайдеры».
  2. Весь цирк с собеседованиями в ИТ строился вокруг идеи элитарности и «гениальных негодяев»: в Кремниевой долине без конца повторяли мантру «Google нанимает гениев», поэтому логично считалось, что раз тебя взяли в Google — ты гений. (Да, все более 180 000 сотрудников Google.) То же самое переносилось и на другие крупные или закрытые компании, отсюда и привычка каждого увольняющегося отмечать, что он всегда работал в окружении блестящих умов. Это обратное искажение Граучо Маркса.
  3. И да, нам совершенно точно не нужен ИИ, чтобы «придумать, как бороться с изменением климата». Мы и так знаем, как это делать. Осталось лишь проявить хоть какое-то желание остановить катастрофу. К сожалению, именно здесь все эти мегаломаны и встают на пути.

Источники: Signs of Triviality: The Claude Delusion — Jan Schaumann, The Ezra Klein Show: Bill Gates Interview (NYT), Обсуждение на Hacker News, Everybody's Lost Their Minds — Jan Schaumann, «Winning AI» — Jan Schaumann