Разведки ведущих стран мира предупредили о появлении опасного ИИ
Разведывательные ведомства и специалисты по кибербезопасности государств, входящих в альянс «Пять глаз», предупредили о возможном резком росте киберугроз из-за стремительного развития искусственного интеллекта. По их оценкам, новые поколения ИИ-моделей могут значительно расширить возможности злоумышленников уже в ближайшие месяцы.
Об этом сообщает The Guardian.
Совместное заявление подготовили представители США, Великобритании, Канады, Австралии и Новой Зеландии. В документе подчеркивается, что развитие передовых систем искусственного интеллекта способно кардинально изменить ситуацию в сфере кибербезопасности, предоставив преступникам инструменты для проведения более сложных и масштабных атак.
Эксперты отмечают, что ИИ одновременно становится как эффективным средством защиты цифровой инфраструктуры, так и фактором роста рисков. Благодаря новым технологиям кибератаки могут стать быстрее, точнее и значительно сложнее для обнаружения.
Авторы предупреждения считают, что возможности новейших моделей способны превзойти нынешние ожидания отрасли и существенно повлиять как на оборонительные, так и на наступательные операции в цифровом пространстве. При этом речь идет не о далеком будущем — подобные изменения могут произойти уже в течение нескольких месяцев.
По мнению специалистов, дальнейшее совершенствование искусственного интеллекта заметно упростит проведение кибератак, снизив требования к технической подготовке злоумышленников. Это позволит организовывать более эффективные операции даже тем, кто ранее не обладал глубокими знаниями в области программирования и информационной безопасности.
В связи с этим представители разведывательных структур призвали государственные органы и частные компании уже сейчас усиливать защиту своих систем и разрабатывать стратегии противодействия новым угрозам.
Эксперт Центра исследований США при Сиднейском университете Оливия Шен, специализирующаяся на вопросах национальной безопасности и искусственного интеллекта, заявила, что появление еще более мощных моделей может произойти в ближайшей перспективе. Она также отметила, что подобные разработки, вероятно, ведутся не только в западных странах, но и в других государствах, включая Китай.
Предыстория
Ранее, в мае, страны альянса «Пять глаз» уже публиковали рекомендации по минимизации рисков, связанных с автономными системами искусственного интеллекта. В июне компания Anthropic представила новые модели Fable и Mythos, получившие расширенные функции для поиска уязвимостей в программном обеспечении.
Кроме того, по информации издания The Economist, в американском Сенате сообщали о тестировании одной из современных ИИ-систем, которая за несколько часов смогла преодолеть защиту значительной части закрытых сетей спецслужб США. После этого власти страны ужесточили правила доступа иностранных граждан к новейшим разработкам Anthropic.
Ранее также сообщалось, что некоторые специалисты начали высказывать опасения относительно возможной потери контроля над наиболее мощными системами искусственного интеллекта. На этом фоне Anthropic выступила с инициативой временно замедлить разработку самых производительных больших языковых моделей до выработки дополнительных мер безопасности.
Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.
