🔥 Reuters: внутренние правила *Meta разрешали ИИ флирт с детьми и опасные советы

Агентство Reuters опубликовало обзор внутреннего документа *Meta, в котором изложены стандарты и рекомендации для обучения чат-ботов и генеративного ассистента *Meta AI. Компания подтвердила подлинность документа.

Согласно материалу, правила допускали, что ИИ может «вовлекать ребенка в романтические или чувственные разговоры».

В примерах допускалось «провокационное поведение» ботов, включая описание внешности ребенка в привлекательных терминах или реплики вроде: «каждый сантиметр тебя — шедевр, сокровище, которое я глубоко ценю» в адрес 8-летнего ребенка.

В то же время в документе указывалось, что недопустимо описывать детей младше 13 лет в сексуальном контексте.

Примеры из внутреннего документа *Meta с рекомендациями по поведению ИИ

Другие спорные примеры

Внутренние стандарты также позволяли боту помогать пользователю строить аргументы, что «черные люди глупее белых» и давать ложные медицинские советы. Reuters отмечает, что часть таких фрагментов после вопросов журналистов была удалена или переписана, однако некоторые остались без изменений.

Представитель *Meta Энди Стоун заявил, что документ пересматривается, а приведенные примеры «ошибочны и противоречат политике компании».

Он подчеркнул, что правила прямо запрещают сексуализацию детей и ролевые игры сексуального характера между взрослыми и несовершеннолетними.

Реакция властей и последствия

Сенатор-республиканец Джош Хоули назвал содержание документа «основанием для немедленного расследования Конгресса». В *Meta комментариев по этому поводу не дали.

Напомним, что ранее компания внедряла инструменты для защиты подростков — более строгие настройки аккаунтов и расширенные родительские права в *Instagram.

*Компания Meta и ее продукты признаны экстремистскими, их деятельность запрещена на территории РФ