«Я узнал о своей смерти из Google»: как ИИ от Google объявил живого журналиста умершим

Журналист Дэйв Барри узнал о своей «смерти» неожиданным образом — через Google.

В разделе AI Overview, который подводит итоги поисковой выдачи с помощью искусственного интеллекта, он обнаружил утверждение, что умер в ноябре прошлого года.

Почему ИИ решил, что Барри мёртв

При поиске своего имени Барри увидел стандартную карточку с биографией, в которой был указан год его смерти. Подробности он нашёл в разделе «Люди также спрашивают», где один из первых вопросов звучал: «Когда умер Дэйв Барри?»

ИИ уверенно сообщил, что журналист умер 20 ноября. При этом в карточке была его правильная фотография и упоминание о Пулитцеровской премии, которую он действительно получал:

По словам Барри, за последние месяцы его осматривали два лицензированных врача и «ни один не подтвердил его смерть».

Попытка объяснить ИИ, что он жив

Журналист отправил в Google обратную связь с простым сообщением: «Я не умер». Спустя некоторое время раздел AI Overview обновился.

Но вместо исправления ошибки, ситуация только ухудшилась: теперь ИИ сообщил, что Дэйв Барри умер в 2016 году, перепутав его с однофамильцем — политическим активистом из Дорчестера.

Попытка исправить ситуацию через онлайн-чат Google оказалась ещё более абсурдной. На сообщения «Я жив» и «Google пишет, что я мёртв, но это не так», ИИ-бот многократно отвечал фразами: «Извините, не понимаю ваш вопрос. Попробуйте переформулировать».

Барри сравнил диалог с попыткой объяснить что-то тостеру.

Финал: жив, но не надолго

Спустя несколько дней Google действительно удалил из карточки информацию о смерти журналиста. Правда, биография осталась неточной — в ней указали, что он не писал колонок уже 20 лет (на самом деле это не так), а дата публикации его книг была указана неправильно. Но самое главное: ИИ признал, что Дэйв Барри жив.

Однако радость длилась недолго. На следующее утро раздел AI Overview вновь сообщил о смерти Барри. Спустя ещё день в разделе появилась фраза: «Похоже, возникла некоторая путаница».

Вывод журналиста

Барри резюмирует: искусственный интеллект Google невероятно мощный, но не слишком умный. Его нельзя допускать к задачам, требующим высокой точности.

На момент публикации истории, журналист снова считался живым. Но, как он сам признаётся, «я не строю далеко идущих планов… даже обед ещё не планирую».