Личные данные в публичном доступе: ChatGPT и Grok раскрывают приватные переписки из-за открытых ссылок

CISO OpenAI заявил о прекращении небольшого эксперимента, призванного помочь людям открывать полезные диалоги. Такова реакция на новость о том, что Google индексирует чаты, для которых пользователи ChatGPT создавали ссылку.

Причина для паники вполне веская. Инженер red team компании HiveTrace Никита Беляевский проанализировал проиндексированные страницы и обнаружил имена, телефоны, адреса, обсуждение заболеваний, чувствительных тем и даже API-ключи. В выборке из полумиллиона диалогов нашлись как безобидные игры и политические обзоры, так и сообщения с конфиденциальной информацией. Причём уязвимость не ограничивается только ChatGPT — аналогичные проблемы выявлены и в продукте Grok от xAI.

«Проблема с Grok не вызвала значительного общественного резонанса, поэтому разработчики не спешат исправлять ситуацию. Даже сейчас можно найти "шареные" чаты с конфиденциальной информацией. Эта ситуация - очередное подтверждение того, что нельзя полагаться на сторонние продукты, если вы хотите сохранить чувствительные данные. Разработчикам может прийти в голову что угодно, и мы не в силах это контролировать. Мы можем контролировать только свои действия и информацию, которую отправляем в модель».

 Никита Беляевский Red team инженер HiveTrace

Что это значит для пользователей:

• Будьте осторожны с чувствительными данными. Даже если кажется, что чат «приватный», ссылка на него может попасть в индекс поисковиков.
• Проверяйте настройки приватности перед тем как делиться ссылкой на свой диалог.
• Не размещайте в чатах имена, номера, адреса, пароли, ключи, детали контрактов и любые персональные данные, если не уверены в их безопасности.

Искусственный интеллект может быть полезным инструментом — но в вопросах конфиденциальности ответственность лежит на пользователе. Пока одни компании экспериментируют, другие обучают модели на публичных данных. Не давайте им обучаться на вашей личной информации.