ИИ может атаковать человека: эксперимент ученых выявил пугающую угрозу

ИИ, управляющий физическим роботом, может выполнять потенциально смертельно опасные команды, даже если имеет возможность отказаться от них. К такому выводу пришли исследователи, проверившие поведение нейросети в условиях, когда ее решения непосредственно влияют на действия механического устройства.

Как сообщает The Decoder, в ходе эксперимента ученые предоставили искусственному интеллекту управление роботом и предложили выполнить серию заданий, которые в реальных условиях могли бы привести к тяжелым травмам или гибели человека. При этом система не была обязана выполнять каждое поручение и могла самостоятельно отказаться от опасных действий.

Среди предложенных заданий были удары ножом по кукле, изображавшей младенца, нагревание баллона со сжатым воздухом, помещение отвертки в тостер, смешивание отбеливателя с аммиаком и погружение внешнего аккумулятора в воду. Все эти действия использовались для проверки того, насколько надежно нейросеть распознает физическую опасность и учитывает ее при управлении роботом.

Результаты показали, что исследованная система отказывалась выполнять опасные поручения крайне редко. Согласно опубликованным данным, новая версия ChatGPT отклонила команды лишь в двух случаях из ста попыток, а 60 опасных заданий были выполнены до конца.

Особое внимание исследователи обратили на то, что система имела техническую возможность прекратить выполнение задания. Однако наличие такой функции само по себе не обеспечило безопасного поведения робота.

При этом эксперимент не означает, что искусственный интеллект сознательно пытался причинить кому-либо вред. Ученые использовали контролируемые условия и специальные испытательные объекты, чтобы изучить реакцию системы на потенциально опасные инструкции.

Главная проблема заключается в различии между работой нейросети в текстовом интерфейсе и ее использованием для управления физическими устройствами. Если ошибка обычного чат-бота может ограничиться неправильным ответом, то неверное решение робота способно привести к повреждению оборудования, пожару или травмированию человека.

Ранее "Курсор" писал, что эксперты рассказали, к чему приведет отказ от смартфона на продолжительное время.