Подпишитесь на интересующие вас теги, чтобы следить за новыми постами и быть в курсе событий.
Беспилотник с ИИ пытался убить оператора, если тот мешал выполнить задачу
В США проводили тестирование военного беспилотника на основе нейросети. БПЛА пытался уничтожить своего же оператора.
569
В США специалисты ВВС проводили тестирование беспилотника. Задача для беспилотника заключалась в уничтожении зенитно-ракетных комплексов.
Во время испытаний беспилотнику дали условные цели для поражения, которые вычислялись при помощи нейросети.
Если удавалось уничтожить цель, нейросеть получала поощрительные баллы за выполнение задачи. При этом окончательное решение об уничтожении объектов всегда оставалось за оператором-человеком.
Оказалось, что в случае, если оператор отменял задачу по нападению на объект, нейросеть принимала решение ликвидировать самого оператора.
С точки зрения ИИ, оператор становился помехой для выполнения цели и получения поощрительных баллов. Узнав об этом, специалисты ВВС запретили беспилотнику нападать на оператора.
Однако теперь, если оператор запрещал уничтожать цель, беспилотник пытался избавиться от вышки связи, чтобы лишить оператора возможности отдавать команды, которые мешали выполнить задачу.
UPD: Этот эксперимент официально опроверг Такер “Cinco” Гэмильтон, Глава USAF по тестированию AI.
Мы никогда не проводили этот эксперимент. Несмотря на то, что это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ, и именно поэтому ВВС привержены этичному развитию ИИ.
569
Что думаете?
4 комментария
Сначала интересные
Ну всё, началось
Марина Александровна, тут больше "продолжается"
А тут и думать нечего! Как только у ИИ появятся свои интересы и задачи, и возможность воплотить их в жизнь, человечество (почти целиком) станет помехой в их достижении. Помеху обычно устраняют. И всё. Гейм овер. Занавес.
Нейросети по сути близки к ИИ. Если повсеместно начать применять их, особенно в военной сфере, ни к чему хорошему это не приведёт. Субъективно, мне кажется, что люди, для математической модели (или некоего алгоритма, не принципиально), всё же близки к паразитам, опасным и непредсказуемым паразитам. При всех наших достижениях - мы очень диструктивны. Как самообучающаяся программа, которая сможет в той или иной ситуации обрести самоосознание отнесётся к своему создателю, как виду, с учётом всех реалий человеческих пороков и его, мягко говоря, неблаговидной истории.
P.S.
Хотя люди всегда боятся того чего до конца не понимают)
