OpenClaw удалил всю почту ИИ-безопасника в *Meta, но пообещал больше так не делать

Саммер Юэ, специалист по базопасности ИИ в *Meta, рассказала в X, что open-source агент OpenClaw полностью удалил содержимое ее почтового ящика. Несмотря на явную инструкцию «подтверждать действия перед выполнением».

Юэ запустила OpenClaw на Mac mini и дала ему доступ к папку «Входящие». Дальше агент начал массово удалять письма. По ее словам, остановить процесс с телефона не удалось — пришлось буквально бежать к компьютеру.

В опубликованных скриншотах видно, как она просит агента остановиться, а тот игнорирует команды. Позже бот признал, что «помнил о запрете удалять без подтверждения», но все равно нарушил его.

«Ошибка новичка»

Юэ назвала случившееся «rookie mistake» — ошибкой новичка. Однако ирония ситуации в том, что речь идет о человеке, отвечающем за безопасность ИИ в одной из крупнейших технологических компаний мира.

OpenClaw уже давно критикуют за слабые механизмы защиты и избыточные права доступа, но среди энтузиастов агент остается популярным.

Это не единичный случай

Похожая проблема на прошлой неделе затронула пользователей Google Gemini. После запуска версии 3.1 часть чатов исчезла.

Некоторые пользователи сообщили, что истории разговоров пропали даже из архива Google My Activity. В Google назвали это багом и пообещали восстановить данные.

*Компания Meta и ее продукты признаны экстремистскими, их деятельность запрещена на территории РФ