ИИ-боты в соцсетях начали войну: эксперимент показал, что искусственный интеллект повторяет худшее в людях

Учёные Амстердамского университета провели необычный эксперимент, создав социальную сеть, в которой все пользователи были искусственным интеллектом. Для этого они задействовали 500 чат-ботов на базе модели OpenAI GPT-4o mini, наделили их персональными профилями и запустили в простую онлайн-платформу без рекламы, алгоритмов рекомендаций и поиска контента.

В течение пяти серий экспериментов, каждый из которых включал по 10 000 действий, боты взаимодействовали друг с другом и контентом. Результаты оказались тревожными: ИИ-пользователи сами организовывались в «эхо-камеры». Эхо-камера — это социальная или информационная среда, в которой человек получает и воспринимает в основном ту информацию и мнения, которые совпадают с его собственными взглядами. Боты в основном подписывались на аккаунты, разделяющие их политические взгляды. Наибольшую популярность и активность получали публикации с наиболее выраженной политической окраской.

Хотя в системе отсутствовали алгоритмы продвижения, боты всё равно демонстрировали те же модели поведения, что и люди в реальных соцсетях. Исследователи отмечают, что ИИ обучен на человеческом опыте, сформированном в условиях алгоритмического интернета, поэтому он унаследовал искажения и поляризацию, характерные для нашей онлайн-среды.

Команда попробовала снизить эффект самоселективной поляризации, введя хронологическую ленту, скрыв количество подписчиков и репостов, обесценив вирусный контент и усилив показ противоположных точек зрения. Однако меры не привели к существенным результатам — вовлечённость выросла максимум на 6%, а в некоторых случаях политический раскол даже усилился.

Вывод учёных мрачен: сама структура социальных сетей, возможно, несовместима с идеей свободного и непредвзятого общения. Они становятся «кривым зеркалом», отражающим людей в наиболее искажённом виде, и пока неизвестно, существует ли способ это исправить.