Чего ждать от ИИ в ближайшее время – тревожный прогноз Гейтса
Соучредитель технологической корпорации Microsoft Билл Гейтс выступил с жестким предупреждением относительно стремительного развития искусственного интеллекта и сопутствующих ему угроз. По прогнозам миллиардера, уже в течение ближайшего года человечество столкнется с беспрецедентной волной высокотехнологичных кибератак.
Злоумышленники активно задействуют нейросети для вымогательства крупных денежных сумм, дестабилизации биржевых рынков и реализации масштабных мошеннических схем, пишет CNN.
Киберпреступность как главный вызов цифровой безопасности
По мнению Гейтса, мировое сообщество уделяет катастрофически мало внимания превентивным мерам против реальных опасностей, которые несет бесконтрольное распространение технологий. При этом предприниматель призывает четко разграничивать отдаленные экзистенциальные риски — например, гипотетический сценарий выхода искусственного интеллекта из-под человеческого контроля — и вполне осязаемую угрозу сиюминутного злоупотребления со стороны криминальных элементов.
«Фронт, на котором, вероятно, произойдут самые заметные изменения в течение следующего года — это кибератаки. Здесь существует понятная бизнес-модель: угрожать кому-то и требовать деньги или создавать сбои, влияющие на фондовый рынок или определенные ставки», — пояснил основатель Microsoft.
Угрозы цифровой безопасности обретают для хакеров конкретную финансовую основу, превращаясь в прибыльный теневой бизнес.
Опасность «взломанных» моделей и обход защиты
Главным катализатором грядущих кризисов станут не сами передовые алгоритмы как таковые, а возможность их деструктивного применения в корыстных целях. Гейтс подчеркнул особую опасность специальных модификаций языковых моделей, в которых разработчики или хакеры полностью отключили встроенные предохранители и этические фильтры.
Несмотря на то что создатели технологий постоянно совершенствуют защитные механизмы, призванные заблокировать использование ИИ для биотерроризма или масштабных сетевых вторжений, злоумышленники неизменно находят лазейки для обхода этих барьеров. Сочетание отсутствия предохранителей и открытого доступа к новейшим моделям сулит мировой экономике серьезные потрясения в сфере кибербезопасности уже в ближайшем будущем.
Ранее "Курсор" сообщал, что Билл Гейтс назвал ИИ опаснейшим оружием.
