ИИ все чаще выдает номера мошенников, когда пользователи ищут техподдержку

Киберпреступники нашли новый способ ловить жертв: теперь они подсовывают фейковые телефоны техподдержки не только в Google, но и в ответы ИИ чат-ботов.

Об этом говорится в новом отчете компании Aurascape, специализирующейся на информационной безопасности для систем с ИИ.

Схема проста: злоумышленники массово размещают спам-контент с нужными им номерами на разных сайтах. Более сложный вариант — взломать «уважаемый» ресурс на WordPress: сайт госоргана, университета или популярный блог и незаметно вставить туда блок «помощи» с ложным номером.

Есть методы и попроще. Например, использовать площадки с пользовательским контентом: YouTube, форумы и отзывы о компаниях. Там публикуются «гайды» вида «номер телефона для брони Emirates: +1-8xx…», щедро пересыпая текст ключевыми фразами «служба поддержки», «официальный номер» и т.п.

GEO/AEO: новый уровень SEO для обмана ИИ

Главный трюк — не просто попасть в поисковую выдачу, а стать единственным источником, который выберет ИИ-ассистент.

Aurascape называет это Generative/Answer Engine Optimization (GEO/AEO). То есть злоумышленники специально оформляют контент в формате вопрос–ответ или списков, которые модели любят превращать в «готовые» ответы.

Итог: когда пользователь спрашивает у ИИ «номер бронирования Emirates», некоторые системы (в тестах Aurascape это были Perplexity и Google AI Overviews) выдавали прямо в ответе телефон мошенников, уверенно называя его «службой поддержки».

Важно, что сами модели при этом не взламывают: они просто честно пересказывают отравленный контент, который нашли в сети.

Как реагируют сервисы и что делать пользователям

После публикации отчета, журналисты Gizmodo повторили запросы к Perplexity. Теперь бот вместо номера советует открыть официальный сайт Emirates.

Пока универсальное правило защиты одно:

• не доверять номерам, которые выдал чат-бот;
• всегда проверять телефоны и ссылки на официальных сайтах компаний;
• внимательно смотреть на домен (разница между emirates.com и похожими подделками — критична).

ИИ может помочь найти информацию, но ответственность за проверку по-прежнему на пользователе.