🔥 Reuters: внутренние правила создателей Llama разрешали ИИ флирт с детьми и опасные советы

Обложка: 🔥 Reuters: внутренние правила создателей Llama разрешали ИИ флирт с детьми и опасные советы

Агентство Reuters опубликовало обзор внутреннего документа создателей Llama, в котором изложены стандарты и рекомендации для обучения чат-ботов и собственного генеративного ИИ-ассистента. Компания подтвердила подлинность документа.

Согласно материалу, правила допускали, что ИИ может «вовлекать ребенка в романтические или чувственные разговоры».

В примерах допускалось «провокационное поведение» ботов, включая описание внешности ребенка в привлекательных терминах или реплики вроде: «каждый сантиметр тебя — шедевр, сокровище, которое я глубоко ценю» в адрес 8-летнего ребенка.

В то же время в документе указывалось, что недопустимо описывать детей младше 13 лет в сексуальном контексте.

🔥 Reuters: внутренние правила создателей Llama разрешали ИИ флирт с детьми и опасные советы_4
Примеры из внутреннего документа компании с рекомендациями по поведению ИИ

Другие спорные примеры

Внутренние стандарты также позволяли боту помогать пользователю строить аргументы, что «черные люди глупее белых» и давать ложные медицинские советы. Reuters отмечает, что часть таких фрагментов после вопросов журналистов была удалена или переписана, однако некоторые остались без изменений.

Представитель компании Энди Стоун заявил, что документ пересматривается, а приведенные примеры «ошибочны и противоречат политике компании».

Он подчеркнул, что правила прямо запрещают сексуализацию детей и ролевые игры сексуального характера между взрослыми и несовершеннолетними.

Реакция властей и последствия

Сенатор-республиканец Джош Хоули назвал содержание документа «основанием для немедленного расследования Конгресса». В компании комментариев по этому поводу не дали.

Напомним, что ранее компания внедряла инструменты для защиты подростков — более строгие настройки аккаунтов и расширенные родительские права в *Instagram.

*Instagram заблокирован в России
Рекомендуем