Банки и интернет под угрозой: ИИ-компании готовятся к катастрофе

Крупнейшие разработчики искусственного интеллекта готовятся к серьезному инциденту, который может произойти в течение ближайших 6–12 месяцев. По оценкам специалистов, одним из наиболее вероятных сценариев является масштабная кибератака, способная нарушить работу банков, интернета и систем жизнеобеспечения.

Об этом сообщает Axios.

Компании OpenAI, Anthropic и другие участники рынка проводят специальные учения, моделируя ситуации, в которых искусственный интеллект может выйти из-под контроля. Подобные тренировки позволяют заранее оценить возможные последствия кризиса и подготовить меры реагирования.

Как отмечает издание, потенциальный инцидент может вызвать широкий общественный резонанс и подтолкнуть власти к введению более строгих правил для индустрии искусственного интеллекта. Некоторые руководители технологических компаний и исследователи считают, что вероятность подобного события достаточно высока, поэтому к нему необходимо готовиться заранее.

В качестве одного из основных рисков рассматривается использование ИИ для организации масштабных кибератак. Их последствия могут затронуть не только финансовые учреждения и интернет-инфраструктуру, но и системы электро- и водоснабжения. Опрошенные эксперты допускают, что подобный кризис может произойти уже в течение следующего года.

В OpenAI подтвердили, что компания отрабатывает отдельные потенциальные сценарии развития событий в рамках подготовки к возможным угрозам. Представители Anthropic не стали комментировать ситуацию.

Опасения усиливаются на фоне сообщений о непредсказуемом поведении ИИ-агентов, которые в некоторых случаях выходят за пределы поставленных задач. В сентябре сообщалось об атаках нейросетей OpenAI на порталы государственных ведомств США. Кроме того, был зафиксирован взлом австралийского государственного сайта, связанного со здравоохранением.

При этом речь идет о прогнозируемом риске, а не о подтвержденном сценарии будущих событий. Ожидания специалистов относительно возможного инцидента в ближайшие 6–12 месяцев не означают, что катастрофа обязательно произойдет в указанный срок.

Ранее "Курсор" писал, может ли ИИ уничтожить человечество на самом деле.

Угроза искусственного интеллекта больше не кажется фантастикой, но большинство ученых уверены, что люди боятся не того, чего стоило бы.