На YouTube массово всплыло видео с «голыми» ИИ-женщинами — даже у несовершеннолетних
Новости
Алгоритмы Google дали сбой?
565 открытий3К показов
Пользователи YouTube сообщают о странной массовой рекомендации видео с NSFW-обложкой, сгенерированной искусственным интеллектом.
Алгоритм платформы якобы показывал ролик даже несовершеннолетним и людям, не ищущим ничего связанного с подобным контентом.
Проблемное видео под названием «AFRICAN GIAT MAASAI» было опубликовано на канале Afro Zulu и сопровождалось миниатюрой с группой обнаженных женщин, созданной с помощью нейросети.
При этом сам ролик длиной 16 секунд не содержал эротического или шокирующего материала.
Алгоритм «сошел с ума»
Жалобы начали появляться на Reddit. Так, пользователи утверждали, что видео внезапно появлялось в рекомендациях при совершенно нерелевантных запросах — от музыкальных клипов до образовательных видео.
Некоторые сообщали, что ролик показывался даже в аккаунтах с детскими настройками.
К моменту, когда YouTube удалил обложку и заменил ее на безопасную, видео уже успело набрать почти 4 млн просмотров.
Обход фильтров YouTube
Пока неизвестно, произошла ли ошибка в алгоритмах рекомендаций или создатели нашли способ «обмануть» систему.
Канал Afro Zulu ранее уже использовал похожие тактики: на его видео регулярно появлялись сексуализированные превью, не соответствующие содержимому, что позволяло привлекать трафик без прямого нарушения правил платформы.
Стоит также отметить, что это не первый случай, когда ИИ-сгенерированные изображения пробивают защиту YouTube.
Ранее исследователи отмечали, что алгоритмы плохо различают реалистичный дипфейк и художественное изображение, особенно если оно не содержит реальных телесных деталей.
Контент, который видят дети
Проблема вызывает особое беспокойство из-за того, что YouTube активно продвигает детскую версию платформы и функции родительского контроля. Тем не менее, основная рекомендационная система остается общей, и подобные «промахи» способны обходить возрастные фильтры.
YouTube пока не дал официального комментария, но обновленный поиск уже не показывает видео в рекомендациях.
565 открытий3К показов
Трафик Stack Overflow рухнул на 90% с 2020 года — платформа готовится к ребрендингу и расширению миссии, чтобы вернуть разработчиков
ESET обнаружила первый ИИ-вымогатель PromptLock: он написан на Go, генерирует Lua-скрипты с помощью AI и шифрует данные на Windows и Linux
Как и какие задачи проектирования и разработки делегировать ИИ, при этом не терять контроль и получать результаты, которые соответствуют ожиданиям даже самых строгих заказчиков.
Собрали для вас сервисы, с помощью которых можно быстро создать презентацию PowerPoint на основе готового текста или темы. В подборке присутствуют как российские сервисы, так и зарубежные платформы, которые помогут сэкономить время на создании слайдов к выступлению.