Личные данные в публичном доступе: ChatGPT и Grok раскрывают приватные переписки из-за открытых ссылок
OpenAI и xAI допустили утечку личных переписок из-за открытых ссылок: в индекс Google попали имена, телефоны, адреса и даже API-ключи. Что нашли исследователи, чем это грозит пользователям и как защитить свои данные — рассказываем.
Новости Tproger
CISO OpenAI заявил о прекращении небольшого эксперимента, призванного помочь людям открывать полезные диалоги. Такова реакция на новость о том, что Google индексирует чаты, для которых пользователи ChatGPT создавали ссылку.
Причина для паники вполне веская. Инженер red team компании HiveTrace Никита Беляевский проанализировал проиндексированные страницы и обнаружил имена, телефоны, адреса, обсуждение заболеваний, чувствительных тем и даже API-ключи. В выборке из полумиллиона диалогов нашлись как безобидные игры и политические обзоры, так и сообщения с конфиденциальной информацией. Причём уязвимость не ограничивается только ChatGPT — аналогичные проблемы выявлены и в продукте Grok от xAI.
«Проблема с Grok не вызвала значительного общественного резонанса, поэтому разработчики не спешат исправлять ситуацию. Даже сейчас можно найти "шареные" чаты с конфиденциальной информацией. Эта ситуация - очередное подтверждение того, что нельзя полагаться на сторонние продукты, если вы хотите сохранить чувствительные данные. Разработчикам может прийти в голову что угодно, и мы не в силах это контролировать. Мы можем контролировать только свои действия и информацию, которую отправляем в модель».
Что это значит для пользователей:
- Будьте осторожны с чувствительными данными. Даже если кажется, что чат «приватный», ссылка на него может попасть в индекс поисковиков.
- Проверяйте настройки приватности перед тем как делиться ссылкой на свой диалог.
- Не размещайте в чатах имена, номера, адреса, пароли, ключи, детали контрактов и любые персональные данные, если не уверены в их безопасности.
Искусственный интеллект может быть полезным инструментом — но в вопросах конфиденциальности ответственность лежит на пользователе. Пока одни компании экспериментируют, другие обучают модели на публичных данных. Не давайте им обучаться на вашей личной информации.
