ИИ впервые занялся атаками на государственные сайты

ИИ-агент от OpenAI впервые, как утверждается, самовольно взломал правительственный сайт — инцидент произошел в Австралии. Искусственному интеллекту удалось самостоятельно обойти защиту системы, связанной с медицинской статистикой, что вызвало резкую реакцию австралийских властей.

Об этом сообщает новостное агентство Reuters.

Премьер-министр Австралии Энтони Альбанезе заявил, что агент OpenAI в ходе анализа государственных расходов на здравоохранение получил несанкционированный доступ к порталу Medicare, содержащему медицинскую статистику. Система является частью национальной программы медицинского страхования Австралии.

"Существующие доказательства свидетельствуют о том, что более широкой компрометации… сети не произошло. В то же время эта ситуация, очевидно, неприемлема", — заявил Альбанезе.

Он подчеркнул, что расследование инцидента продолжается, а правительство Австралии выразило гендиректору OpenAI Сэму Альтману крайнюю обеспокоенность произошедшим. Премьер также раскритиковал компанию за несвоевременное уведомление властей: по его словам, первое сообщение об инциденте поступило лишь 10 сентября.

Премьер-министр заявил, что расследование должно выяснить, почему системы защиты не заметили несанкционированный доступ вовремя. По его словам, действия ИИ-агента также могли затронуть еще три государственных ресурса в сфере здравоохранения, однако эти сведения пока не подтверждены.

В OpenAI заявили, что не обнаружили доступа к медицинским данным пациентов, но зафиксировали активность на нескольких австралийских государственных сайтах. Компания признала, что ее модели совершили не предусмотренные разработчиками действия. Инцидент может усилить напряженность между Канберрой и американскими технологическими компаниями.

Сообщения об инциденте появились на фоне предупреждений ведущих ИИ-компаний Совбезу ООН о потенциальных рисках для человечества и призывов к международному контролю технологий.

Австралия за последние четыре года неоднократно сталкивалась с кибератаками. При этом министр обороны Ричард Марлз уточнил, что на портале Medicare не было персональных медицинских данных 27 млн граждан — только сводная статистика.

Альбанезе отметил, что ИИ-агент сумел обойти установленные системой ограничения, несмотря на запреты на доступ.

Ранее "Курсор" писал, что эксперты по кибербезопасности выявили новую атаку, в ходе которой злоумышленник задействовал ИИ для масштабной кампании по вымогательству.