Meta* тестировала в приложении ИИ-ленту с кликбейтом и фейками
Приложение Meta AI получило раздел For You, который генерировал статьи по кликбейтным заголовкам. Тексты оказались бесполезной «пухлятиной» без источников, а картинки содержали искажённые изображения реальных людей.
Новости Tproger
Meta* протестировала в приложении Meta* AI ленту кликбейтных статей, которые целиком создавались генеративным ИИ. Тексты не содержали реальных источников, а изображения реальных людей, включая публичных фигур, содержали явные ошибки и искажения. После вопросов журналистов The Verge компания объявила об отключении функции.
Ключевые выводы
Чем опасна ИИ-лента от Meta*
Кратко
Что произошло: в приложении Meta* AI появился раздел For You, генерировавший статьи по кликбейтным заголовкам полностью при помощи ИИ.
Проблемы контента: тексты представляли собой бесполезную «пухлятину» без источников, а изображения реальных людей содержали явные ошибки.
Реакция Meta*: компания назвала функцию тестом для ограниченного числа пользователей и сообщила о её выводе из использования после запроса The Verge.
Как устроена лента
Раздел For You в приложении Meta* AI предлагал пользователям статьи по провокационным заголовкам: «Психология вставать в очередь, не зная зачем» или «Королевский дворецкий наконец решил спор: молоко или чай первым». При нажатии на карточку ИИ генерировал полный текст. Журналисты The Verge отмечают, что результаты читались как наполнитель без смысловой нагрузки, а ссылки на первоисточники отсутствовали.
Технически интересный момент: в истории чатов журналист обнаружил скрытый системный промпт, которым ИИ руководствовался при генерации. Он начинался со слов: «You are a helpful conversational assistant. The user is responding to a proactive feed card that was shown to them...» — и далее содержал внутренние инструкции и метаданные Meta*. Это показывает, что лента работала упреждающе (proactively): система сама подбрасывала темы, а не отвечала на запросы пользователя.
ИИ не просто пересказывал существующие материалы, а выдумывал факты. Например, статья про «эксперимент с поддельными Rolex» оказалась полной фабрикацией, написанной от первого лица без указания автора. Другие тексты ссылались на неназванных экспертов и несуществующие исследования. Картинки тоже вызывали вопросы: в одной статье про королевскую семью алгоритм сгенерировал двух Елизавет II, хотя монарх умер в 2022 году. На других изображениях фигурировали деформированные руки и невозможные позы тел — классические признаки генерации.
Позиция Meta*
Представительница Meta* Трейси Клейтон сначала заявила, что цель ленты — «предлагать то, что наиболее релевантно вам — например, советы по фитнесу, планы питания или другие рекомендации — прежде чем вы попросите». Позже в тот же день она отправила «обновлённое» сообщение, загадочно убрав из первой части заявления слово «proactively» (упреждающе). А в третьем заявлении компания объявила: «Это был тест для ограниченного числа пользователей, и он будет выведен из использования (deprecated). У Meta* нет планов развивать эту функцию».
Часто задаваемые вопросы
Что такое раздел For You в Meta* AI?
Это экспериментальная лента внутри приложения Meta* AI, которая предлагала пользователям кликбейтные заголовки и генерировала по ним полные статьи при помощи искусственного интеллекта. Контент включал тексты и изображения, созданные алгоритмами компании.
Какие проблемы были в ИИ-статьях?
Статьи не содержали ссылок на реальные источники, часто включали вымышленные факты и ссылки на несуществующих экспертов. Изображения реальных людей, в том числе публичных фигур, содержали явные искажения: например, на одном снимке присутствовали две Елизаветы II.
Почему Meta* закрыла функцию?
Компания заявила, что это был тест для ограниченного числа пользователей, и у неё нет планов развивать функцию дальше. Заявление последовало после того, как журналисты The Verge задали вопросы о качестве контента, соблюдении политик ИИ и наличии маркировки сгенерированных материалов.
Была ли маркировка ИИ-контента?
Нет. Несмотря на то, что Meta* ранее заявляла о желании маркировать ИИ-контент, в ленте For You не было видимых указаний или меток, показывающих, что материалы созданы искусственным интеллектом.
Что из этого следует
Инцидент показывает, как крупные технологические компании могут запускать эксперименты с генерацией контента, не проработав элементарные меры безопасности: проверку фактов, маркировку ИИ-материалов и защиту от дипфейков публичных фигур. Для разработчиков, интегрирующих генеративный ИИ в продукты, это напоминание: вымышленные факты и неразмеченный AI-контент быстро становятся репутационными рисками. Хотя Meta* и назвала проект тестом, факт наличия функции в публичном приложении без предупреждений ставит вопросы о внутренних барьерах перед выпуском ИИ-фич.
Источник: The Verge
*Meta — признана экстремистской организацией, запрещена на территории России.
