Одно из самых тревожных предсказаний, которые связывают с именем французского прорицателя Нострадамуса, вновь привлекло внимание общественности. На фоне бурного развития искусственного интеллекта и растущих опасений ученых относительно его потенциальных угроз старинные пророчества получили неожиданное прочтение. Некоторые увидели в них намек на будущее, в котором машины могут выйти из-под контроля человека и начать самостоятельно управлять важными процессами в мире.
Как сообщает LADbible, глава компании Anthropic Дарио Амодеи предупредил, что технологии искусственного интеллекта совершенствуются настолько стремительно, что человечество рискует не успеть разработать эффективные способы защиты от их неправильного использования.
По его прогнозу, если скорость развития ИИ останется прежней, уже через 6–12 месяцев автономные боты могут получить настолько широкое распространение, что фактически начнут доминировать в интернете.
Свои опасения Амодеи объясняет не только гипотетическими угрозами. Он указывает на заметный скачок возможностей современных ИИ-моделей, а также на случаи кибератак, при подготовке и проведении которых уже применялись инструменты искусственного интеллекта.
Главная проблема, по мнению руководителя Anthropic, заключается в том, что технологический прогресс опережает создание правил и защитных механизмов, которые могли бы ограничить опасное применение новых разработок.
При этом речь не обязательно идет о фантастической картине, где роботы захватывают улицы и устанавливают физическую власть над людьми. Гораздо более вероятный сценарий связан с распространением автономных ИИ-агентов, способных самостоятельно выполнять многочисленные задачи в интернете: публиковать материалы, генерировать информацию, взаимодействовать с пользователями, проводить кибератаки и управлять сложными цифровыми процессами практически без участия человека.
Именно такие опасения заставили вновь обратиться к загадочным текстам Нострадамуса. Французский астролог и прорицатель, живший в XVI веке, оставил после себя множество четверостиший с весьма туманными описаниями будущего. На протяжении столетий их пытались связать с крупными войнами, природными катастрофами, политическими потрясениями и другими историческими событиями.
Некоторые современные толкователи усматривают в отдельных пророчествах намеки на появление машин, которые однажды смогут подчинить себе человечество. Сегодня эти трактовки пытаются связать с развитием искусственного интеллекта и перспективой утраты людьми контроля над собственными технологиями.
Разумеется, Нострадамус не мог непосредственно предсказывать появление современных нейросетей и автономных компьютерных систем. Подобные версии представляют собой попытки сопоставить неоднозначные исторические тексты с актуальными событиями.
Тем не менее, если прогноз Амодеи относительно стремительного распространения ИИ-ботов в интернете окажется верным, сторонники мистических трактовок наверняка увидят в этом очередное доказательство прозорливости французского предсказателя.
Еще одна проблема, на которую обращает внимание LADbible, связана с качеством контента, создаваемого нейросетями. Если раньше искусственные изображения, видеоролики и тексты часто можно было распознать по характерным ошибкам и неестественным деталям, то современные технологии сделали подделки гораздо более убедительными.
Сегодня ИИ способен генерировать реалистичные фотографии, имитировать человеческие голоса, создавать видеозаписи и писать тексты, которые трудно отличить от материалов, подготовленных настоящими людьми.
Это создает серьезные риски для информационной среды. Пользователям становится все сложнее проверять достоверность увиденного, а распространение фальшивых материалов может подрывать доверие даже к подлинным фотографиям, видео и свидетельствам очевидцев.
Возникает своеобразный парадокс: чем больше становится убедительных подделок, тем чаще люди начинают сомневаться в подлинности любой информации. В результате даже реальные события могут ошибочно восприниматься как результат работы искусственного интеллекта.
Потенциальные последствия технологического прогресса не ограничиваются киберпреступностью и распространением дезинформации. Искусственный интеллект уже меняет привычные способы работы, влияет на рынок труда, экономику и повседневную жизнь миллионов людей.
Эксперты предупреждают, что дальнейшее расширение возможностей ИИ без достаточного контроля может привести к серьезным социальным и экономическим потрясениям. Среди наиболее тревожных сценариев также называют использование нейросетей для масштабных кибератак, манипулирования общественным мнением и создания систем, действия которых человек не сможет своевременно остановить.
Именно поэтому предупреждение руководителя Anthropic о возможном стремительном распространении автономных ботов в интернете вызывает особое беспокойство. Чем больше самостоятельности получают такие системы, тем важнее становится вопрос о том, кто и каким образом будет контролировать их деятельность.
На фоне этих дискуссий старинные пророчества Нострадамуса приобретают новую популярность. Если развитие искусственного интеллекта действительно приведет к последствиям, которые сегодня кажутся фантастическими, некоторые наверняка поспешат объявить это исполнением древнего предсказания.
Однако стоит помнить, что тексты Нострадамуса отличаются крайней неоднозначностью. Их расплывчатые формулировки позволяют находить предполагаемые совпадения с самыми разными событиями — от эпидемий и военных конфликтов до научных открытий и технологических революций.
Поэтому утверждать, что французский прорицатель действительно предвидел появление искусственного интеллекта и возможную потерю контроля над ним, оснований нет. Но сама идея о том, что созданные человеком технологии однажды могут стать для него серьезной угрозой, сегодня уже не выглядит исключительно сюжетом научной фантастики.
Ранее "Курсор" сообщал, что пользователей Chat GPT предупредили о новой мошеннической схеме.