Разведки ведущих стран мира предупредили о появлении опасного ИИ

Об этом сообщает The Guardian.

Совместное заявление подготовили представители США, Великобритании, Канады, Австралии и Новой Зеландии. В документе подчеркивается, что развитие передовых систем искусственного интеллекта способно кардинально изменить ситуацию в сфере кибербезопасности, предоставив преступникам инструменты для проведения более сложных и масштабных атак.

Эксперты отмечают, что ИИ одновременно становится как эффективным средством защиты цифровой инфраструктуры, так и фактором роста рисков. Благодаря новым технологиям кибератаки могут стать быстрее, точнее и значительно сложнее для обнаружения.

Авторы предупреждения считают, что возможности новейших моделей способны превзойти нынешние ожидания отрасли и существенно повлиять как на оборонительные, так и на наступательные операции в цифровом пространстве. При этом речь идет не о далеком будущем — подобные изменения могут произойти уже в течение нескольких месяцев.

По мнению специалистов, дальнейшее совершенствование искусственного интеллекта заметно упростит проведение кибератак, снизив требования к технической подготовке злоумышленников. Это позволит организовывать более эффективные операции даже тем, кто ранее не обладал глубокими знаниями в области программирования и информационной безопасности.

В связи с этим представители разведывательных структур призвали государственные органы и частные компании уже сейчас усиливать защиту своих систем и разрабатывать стратегии противодействия новым угрозам.

Эксперт Центра исследований США при Сиднейском университете Оливия Шен, специализирующаяся на вопросах национальной безопасности и искусственного интеллекта, заявила, что появление еще более мощных моделей может произойти в ближайшей перспективе. Она также отметила, что подобные разработки, вероятно, ведутся не только в западных странах, но и в других государствах, включая Китай.

Предыстория

Ранее, в мае, страны альянса «Пять глаз» уже публиковали рекомендации по минимизации рисков, связанных с автономными системами искусственного интеллекта. В июне компания Anthropic представила новые модели Fable и Mythos, получившие расширенные функции для поиска уязвимостей в программном обеспечении.

Кроме того, по информации издания The Economist, в американском Сенате сообщали о тестировании одной из современных ИИ-систем, которая за несколько часов смогла преодолеть защиту значительной части закрытых сетей спецслужб США. После этого власти страны ужесточили правила доступа иностранных граждан к новейшим разработкам Anthropic.

Ранее также сообщалось, что некоторые специалисты начали высказывать опасения относительно возможной потери контроля над наиболее мощными системами искусственного интеллекта. На этом фоне Anthropic выступила с инициативой временно замедлить разработку самых производительных больших языковых моделей до выработки дополнительных мер безопасности.

Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.