ИИ способен создать инфекцию, тяжелее коронавируса - прогноз Гейтса
Сооснователь Microsoft Билл Гейтс предупреждает о новых угрозах, которые могут сопровождать стремительное развитие искусственного интеллекта. Среди потенциальных рисков он называет пандемию, способную оказаться опаснее COVID-19, применение биологического оружия и кибератаки, способные вывести из строя критическую инфраструктуру.
При этом Гейтс считает, что опасность связана не только с развитием самих технологий, но и с отсутствием должного контроля. Он критикует администрацию Дональда Трампа за недостаточное внимание к этим угрозам и препятствование международному сотрудничеству в подготовке к возможным кризисам.
Менее чем через полтора месяца после предыдущего предупреждения Гейтс вновь обратил внимание на риски, связанные с развитием ИИ.
По его мнению, передовые технологии могут облегчить создание биологического оружия и помочь злоумышленникам использовать уязвимости компьютерных систем. Он также предупредил, что биологическая атака с применением ИИ потенциально может иметь последствия гораздо тяжелее пандемии COVID-19.
Гейтс давно занимается вопросами глобального здравоохранения и предотвращения эпидемий. Еще в 2015 году он предупреждал о неготовности мира к масштабной пандемии. Теперь, по его мнению, развитие искусственного интеллекта может сделать подобные угрозы еще серьезнее.
ИИ уже применяется в биологии и медицине, однако его возможности могут использовать и в опасных целях. Современные модели способны быстро анализировать научные данные и предоставлять специализированную информацию, что вызывает опасения по поводу облегчения доступа к сложным биологическим знаниям.
Вместе с тем пока речь идет о потенциальных рисках: ИИ не способен самостоятельно вызвать пандемию. Создание биологического оружия по-прежнему требует лабораторий, специального оборудования и профессиональных знаний.
Опасения связаны с тем, что ИИ может упростить доступ к знаниям, которые потенциально применимы для создания биологических угроз. Особое внимание Гейтс уделяет открытым моделям, которые можно скачивать и изменять, в том числе обходя встроенные механизмы безопасности.
При этом закрытые системы также не защищены от злоупотреблений, а открытость технологий позволяет специалистам выявлять их уязвимости.
Гейтс также раскритиковал администрацию Трампа за препятствование международным усилиям по регулированию ИИ. По его мнению, полагаться на добровольное саморегулирование недостаточно, поскольку конкурирующие компании вряд ли станут ограничивать развитие собственных технологий в ущерб своим позициям на рынке.
Ранее "Курсор" писал, что Билл Гейтс предупредил, что развитие ИИ уже достигло уровня, при котором его опасное применение в определенных обстоятельствах может привести к гибели миллиарда человек.
