Tproger — всё о программировании

По стекам
Обсуждают сейчас
1) ИИ не существует. 2) Нейросети не ИИ. Это довольно сложный математический аппарат на основе статстики и теории вероятностей. Он не мыслит. Здороваться с нейросетью и и рассказывать анекдоты нет никакого смысла. Она ничего не помнит. Её поведение детерминированно: при одинаковых параметрах генерации (инференса) — seed, temperature, top-p, top-k, repetition penalty, max tokens / max length — и одинаковом контексте Вы получите до символа одинаковый ответ на один и тот же запрос в любое время суток и дату. «Творчество» здесь — это не свобода воли, а случайная выборка из распределения вероятностей следующего токена. 3) Она не «понимает» смысл. Она научилась хорошо предсказывать, какие фрагменты текста обычно идут после каких. Впечатление понимания возникает у человека, который смотрит на результат, а не на механику. 4) Контекстное окно — не память. Внутри одной сессии модель может удерживать предыдущие сообщения, но между сессиями она не помнит вас, ваши предпочтения и ваши шутки. Всё, что не попало в текущий контекст, для неё не существует. 5) Антропоморфизация вредна. Чем больше мы приписываем нейросети намерения, обиды, желания и «личность», тем хуже мы понимаем, что она может и чего не может. Это инструмент, а не собеседник и не субъект. 6) «ИИ» на данном жтапе маркетинговый зонтичный термин. Под ним сегодня понимают и машинное обучение, и большие языковые модели, и распознавание образов, и многое другое. ИИ, который сам ставит цели и осознаёт себя, не существует. Теперь ждем статью с названием «Я сел за руль автомобиля, едущего по скоростному шоссе, первый раз в жизни, начал нажимать на все кнопки, рычажки и педали подряд и понял, что надо сначала походить на курсы в автошколе 4 месяца и сдать экзамен». Уверен, будут увлекательные откровения о том, что нельзя просто так крутить руль, что оказывается есть какие-то полосы движения и прочая «ненужная» по началу мутотень.
BlackReaderв статьеКак я перестал относиться к ИИ как к человеку: опыт соло-разработки двух пет-проектов