ИИ может превратиться в грозное оружие - чего опасаться человечеству

Стремительное развитие искусственного интеллекта превратило вопросы его безопасности из узкотехнологической темы в один из аспектов глобального соперничества США и Китая. На фоне растущих опасений относительно возможных последствий развития ИИ все чаще звучат призывы ограничить темпы гонки за создание наиболее мощных моделей.

Об этом сообщает издание The Economist.

Все больше представителей технологической отрасли предупреждают, что ИИ может стать сложнее контролировать, если его возможности будут развиваться быстрее, чем механизмы надзора со стороны людей.

Опасения связаны не только с дезинформацией, сокращением рабочих мест и возможным злоупотреблением технологиями. Некоторые эксперты допускают появление систем, способных самостоятельно улучшать свои возможности и действовать с минимальным участием человека.

На этом фоне часть разработчиков и исследователей призывает временно снизить темпы гонки за более мощными моделями. Среди предлагаемых мер — дополнительные испытания, независимый аудит и оценка потенциальных рисков до массового внедрения новых систем.

Для Вашингтона возможное замедление разработки ИИ несет не только технологические, но и геополитические риски. США и Китай считают искусственный интеллект одним из ключевых факторов будущего экономического и военного потенциала.

Поэтому американские власти вынуждены учитывать не только вопросы безопасности ИИ, но и последствия для глобального соперничества: пока одна страна будет снижать темпы, другая может продолжать активно развивать технологии.

Конкуренция Вашингтона и Пекина в сфере ИИ уже влияет на их отношения: страны соперничают за передовые чипы, технологии и правила регулирования, а разрыв между их ведущими моделями сокращается.

Для Вашингтона это создает дилемму: жесткое регулирование может повысить безопасность, но замедлить американские компании, тогда как отсутствие ограничений ускоряет развитие, одновременно увеличивая риски.

Особые опасения вызывает военное применение ИИ. Ошибка автономной системы в кибероперациях, военных решениях или работе критической инфраструктуры может быть принята за намеренную атаку и спровоцировать эскалацию.

Поэтому эксперты выступают за сохранение человеческого контроля, четкие правила использования ИИ в военной сфере и экстренные каналы связи между странами. Соперничество США и Китая в сфере ИИ вышло далеко за рамки бизнеса: теперь оно связано с военной безопасностью, передовыми чипами и технологическим влиянием.

Китай сокращает отставание от американских разработчиков, а некоторые эксперты допускают их скорое сближение по возможностям наиболее мощных моделей. На этом фоне замедление развития ИИ становится сложной задачей: необходимо снизить потенциальные риски, не создавая условий для технологического преимущества другой стороны.

Ранее "Курсор" писал, что развитие ИИ повышает риски, связанные с публикацией обычных фотографий в соцсетях. Современные нейросети способны определить местоположение человека по незаметным деталям на заднем плане снимка, включая его дом, работу или места отдыха.