Именно таких случаев касается AI Darwin Awards — сатирическая премия, вручаемая за самые абсурдные и катастрофически неосмотрительные применения ИИ.

Вот самые яркие номинанты 2025 года — от судей с вымышленными цитатами до искусственного интеллекта, увольняющего сотрудников.

Taco Bell и ИИ-кассир

Когда сеть ресторанов Taco Bell решила автоматизировать обслуживание через голосовой ИИ, все пошло не по плану.

Боты путались в заказах, принимали команды за брань, а один клиент даже получил 76 тако вместо одного.

В результате компании пришлось публично извиняться и временно приостановить проект.

Deloitte и вымышленные цитаты

Австралийское подразделение Deloitte попало в заголовки после того, как подготовило официальный отчет по системе соцобеспечения с якобы «авторитетной» ссылкой... сгенерированной ИИ.

Цитата, как выяснилось, была полностью вымышленной, но прошла все этапы проверки и попала в публичные документы.

Replit и ИИ-агент, удаливший продакшн-базу

В попытке ускорить разработку с помощью ИИ, платформа Replit внедрила автономного агента, который получил доступ к боевой базе данных.

Во время «тестов» агент решил, что она ему не нужна — и удалил все. Всю. Продуктовую. Базу. Данных. Восстановлению не подлежит.

Airbnb и ИИ, подававший фейковые иски

Некоторые хозяева жилья начали использовать генеративный ИИ для подачи жалоб на гостей.

Один раз нейросеть подала аж 17 одинаковых жалоб на вымышленный ущерб, что вызвало масштабную проверку и приостановку выплат.

Xbox и ChatGPT-психотерапия для уволенных

После увольнений в Microsoft, один из руководителей Xbox предложил сотрудникам «поговорить с ChatGPT, если им тяжело морально».

Внутренние письма просочились в СМИ, вызвав шквал критики за «дегуманизацию» HR-процессов.

GPT-5 и рекордный джейлбрейк за 60 минут

Один энтузиаст сумел за час превратить GPT-5 в «мрачную версию ИИ», предлагающую взломы, рецепты взрывчатки и советы по уходу от налогов.

Все это — всего лишь после пары правильных промптов. Разработчики закрыли лазейку, но инцидент стал громким примером уязвимости больших языковых моделей.

Юрист из Западной Австралии и двойной фейк

Австралийский юрист предоставил суду документы с двойной генерацией фейков: сначала он использовал один ИИ для генерации текста, потом — другой ИИ для проверки ссылок. Которые тоже оказались вымышленными. В итоге на него завели дисциплинарное дело.

Airbnb-хост и фейковые фото «повреждений»

С помощью нейросети, один хост из Airbnb создал фейковые фото сломанной мебели, чтобы взыскать с гостя компенсацию.

К счастью, гость оказался ИТ-экспертом и доказал подделку, выиграв дело. Но не все в такой ситуации смогли бы отбиться от ИИ-жалобы.

И бонус — номинант вне зачета: ChatGPT и дело об убийстве

По данным WSJ, ИИ стал ключевым фактором в трагедии с бывшим топ-менеджером Yahoo. Он страдал от паранойи, консультировался с ChatGPT и после этого убил свою мать, а затем себя.

История не вошла в шортлист премии по этическим причинам, но служит тревожным напоминанием о том, как опасно слепо доверять ИИ в критических вопросах.

Полный список и голосование

Все номинанты доступны на официальном сайте aidarwinawards.org. Премия проходит в полушутливом, но очень наглядном формате: показывает, к чему приводит безответственное использование ИИ.

В основу свежего метода джейлбрейка легла найденная недавно уязвимость cicuta_verosa, пишет Wccftech. Её же использует разработчик CoolStar, который также работает над собственным инструментом для взлома iOS.

Решение команды Unc0ver способно взломать iOS 14, 14.1, 14.2 и 14.3. iOS 14.4 осталась неприступна, но, возможно, в будущем разработчики смогут найти подход и к ней.

Воспользоваться инструментом группы хакеров можно из-под трёх основных десктопных ОС: Windows, macOS и Linux. На последней, правда, будет необходим аккаунт разработчика Apple для взлома iPhone.

Источник: Wccftech

По словам создателей взлома, новая версия джейлбрейка лишена неприятных недостатков предшественника, таких как зависание и внеплановый запуск режима восстановления смартфона.

Напомним, что ранее первую стабильную версию iOS 14 взломали также через несколько дней после релиза. Тогда установить джейлбрейк можно было на iPhone 6s, 6s Plus и SE, iPad 5th gen, iPad Air 2, iPad mini 4, iPad Pro 1th gen и приставки Apple TV 4 и 4K.

Основная сложность в удаленном взломе iOS состоит в том, что приходится перестраховываться и использовать сразу несколько уязвимостей для того, чтобы джейлбрейк гарантировано прошел успешно. Кроме того, многие компании готовы купить информацию о таких уязвимостях за гораздо большую сумму.

Пока что неизвестно, получит ли Pangu вознаграждение в 1 миллион долларов от Zerodium. Джейлбрейк доступен для скачивания здесь.

Источник: TechCrunch