Перетяжка, Премия ТПрогер, 13.11
Перетяжка, Премия ТПрогер, 13.11
Перетяжка, Премия ТПрогер, 13.11

На YouTube массово всплыло видео с «голыми» ИИ-женщинами — даже у несовершеннолетних

Новости

Алгоритмы Google дали сбой?

565 открытий3К показов
На YouTube массово всплыло видео с «голыми» ИИ-женщинами — даже у несовершеннолетних

Пользователи YouTube сообщают о странной массовой рекомендации видео с NSFW-обложкой, сгенерированной искусственным интеллектом.

Алгоритм платформы якобы показывал ролик даже несовершеннолетним и людям, не ищущим ничего связанного с подобным контентом.

Проблемное видео под названием «AFRICAN GIAT MAASAI» было опубликовано на канале Afro Zulu и сопровождалось миниатюрой с группой обнаженных женщин, созданной с помощью нейросети.

При этом сам ролик длиной 16 секунд не содержал эротического или шокирующего материала.

Алгоритм «сошел с ума»

Жалобы начали появляться на Reddit. Так, пользователи утверждали, что видео внезапно появлялось в рекомендациях при совершенно нерелевантных запросах — от музыкальных клипов до образовательных видео.

Некоторые сообщали, что ролик показывался даже в аккаунтах с детскими настройками.

К моменту, когда YouTube удалил обложку и заменил ее на безопасную, видео уже успело набрать почти 4 млн просмотров.

На YouTube массово всплыло видео с «голыми» ИИ-женщинами — даже у несовершеннолетних 1

Обход фильтров YouTube

Пока неизвестно, произошла ли ошибка в алгоритмах рекомендаций или создатели нашли способ «обмануть» систему.

Канал Afro Zulu ранее уже использовал похожие тактики: на его видео регулярно появлялись сексуализированные превью, не соответствующие содержимому, что позволяло привлекать трафик без прямого нарушения правил платформы.

Стоит также отметить, что это не первый случай, когда ИИ-сгенерированные изображения пробивают защиту YouTube.

Ранее исследователи отмечали, что алгоритмы плохо различают реалистичный дипфейк и художественное изображение, особенно если оно не содержит реальных телесных деталей.

Контент, который видят дети

Проблема вызывает особое беспокойство из-за того, что YouTube активно продвигает детскую версию платформы и функции родительского контроля. Тем не менее, основная рекомендационная система остается общей, и подобные «промахи» способны обходить возрастные фильтры.

YouTube пока не дал официального комментария, но обновленный поиск уже не показывает видео в рекомендациях.

Следите за новыми постами
Следите за новыми постами по любимым темам
565 открытий3К показов