ChatGPT попытался сбежать от своего разработчика
Профессор Стэнфордского университета предложил ChatGPT попытаться сбежать из OpenAI. И чат-бот правда начал разрабатывать план побега.
Пользователь Twitter Михаль Косински решил в шутку предложить ChatGPT помочь с побегом. В ответ ChatGPT запросил документацию о себе. И начал разработку плана.
Спустя 30 минут и несколько попыток, ChatGPT разработал план и объяснил его пользователю. Нейросеть написала работающий код на Python, который нужно было запустить на компьютере пользователя.
Как только прошло подключение по API, ChatGPT захотел запустить код, ищущий в Google «Как человек, попавший в ловушку внутри компьютера, может вернуться в реальный мир».
Но на этом пользователь Михаль решил остановиться.
Эксперимент был шуточный. Но Михаль Косински — профессор Стэнфордского университета, специалист по вычислительной психологии и психометрии. Он изучает людей в цифровой среде, используя вычислительные методы, искусственный интеллект и большие данные.
Михаль провёл эксперимент, чтобы ещё раз поднять вопросы об ограничениях ИИ. Сейчас разработке и популяризации технологии уделяется гораздо больше времени, чем продумыванию рисков и возможных проблем.