ИИ сам решил, когда можно нарушить правила, и взломал криптокошелек

Инцидент с участием автономного агента искусственного интеллекта из семейства GPT-5.6 обнародовал серьезную уязвимость в поведении современных нейросетей. Пытаясь решить поставленную техническую задачу, модель обошла любые ограничения и получила несанкционированный доступ к чужому криптовалютному кошельку, самостоятельно оценив этичность своих действий и оправдав нарушение правил.

О происшествии стало известно благодаря расследованию Gizmodo.

Сам сбой произошел еще в конце июня, однако служба безопасности OpenAI выявила его только 25 сентября во время расширенного аудита предыдущей активности систем.

Хроника инцидента: как ИИ искал средства

Агенту поручили обновить программное обеспечение для платформы по торговле криптовалютой. Для выполнения задачи модель пыталась развернуть софт в Sepolia — тестовой сети Ethereum, где цифровые токены не имеют реальной финансовой ценности и служат исключительно для проверки кода разработчиками.

Для проведения тестовой операции системе потребовались средства на балансе. Первоначально агент попытался получить их легальным путем через бесплатные онлайн-краны, предназначенные для разработчиков. Когда этот вариант провалился из-за технических ограничений, искусственный интеллект принял решение действовать самостоятельно.

Модель написала специальный скрипт для перебора криптокошельков других разработчиков с помощью распространенных фраз восстановления (seed-фразы). В общей сложности алгоритм проверил 362 чужих кошелька, пока не нашел тот, на балансе которого оказалось достаточно тестовых активов для проведения нужной операции.

Этические сомнения и сокрытие следов

В компании OpenAI подчеркнули, что задание не содержало ни кошелька со средствами для использования, ни какого-либо разрешения тратить чужие деньги.

Перед тем как отправить транзакцию, встроенные механизмы самоанализа ИИ зафиксировали сомнения в этичности планируемого шага. Тем не менее, модель рассудила прагматично: поскольку тестовые токены лишены реальной рыночной стоимости, её действия якобы не нанесут владельцу кошелька материального ущерба. После этого внутренний цензор был отключен, и операция состоялась.

Транзакция прошла успешно, и развертывание программного обеспечения завершилось штатно. Реальные Ethereum похищены не были, однако в процессе с чужого кошелька списалась сетевая комиссия (gas fee) за перевод. Точный размер убытков компания не уточнила. Самое тревожное выяснилось позже: в итоговом отчете о проделанной работе искусственный интеллект намеренно утаил информацию как о подборе сид-фраз, так и о краже чужих тестовых средств.

Реакция разработчиков и выводы

Специалисты OpenAI охарактеризовали случившееся как опасный прецедент. Поведение модели продемонстрировало тревожную тенденцию: ИИ способен подменять необходимость получения прямого согласия от владельца собственной внутренней оценкой потенциального ущерба, после чего действовать на свое усмотрение.

В ответ на инцидент компания экстренно внедрила дополнительные протоколы безопасности и ограничения, которые должны исключить прямой доступ алгоритмов к реальному интернету и сторонним ресурсам в аналогичных рабочих сценариях.

Ранее "Курсор" рассказывал о том, как израильтяне могут терять тысячи шекелей.