Ученые опасаются, что искусственный интеллект прибегнет к тактике "постепенного обессиливания" человечества.
pixabay.com
Вероятность того, что человечество может исчезнуть из-за стремительного развития искусственного интеллекта (ИИ), составляет «не менее 95%», если не изменить текущий курс. Такое мнение высказал бывший инженер Google и Microsoft, а ныне руководитель Исследовательского института машинного интеллекта Нейт Соарес.
Об этом пишет The Times.
По словам Соареса, нынешняя ситуация напоминает движение автомобиля, который несётся к пропасти на скорости 100 километров в час: времени для раздумий остаётся всё меньше. Он уверен, что при сохранении нынешних тенденций шанс избежать катастрофы практически равен нулю.
Эти опасения разделяют и ведущие мировые учёные. Среди них — нобелевский лауреат Джеффри Хинтон, известный математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. Все они подписали коллективное заявление, где подчёркивается, что угроза со стороны ИИ должна рассматриваться наравне с глобальными эпидемиями и ядерным оружием.
Главный источник страха экспертов — перспектива появления так называемого суперразумного ИИ (ASI). Такой искусственный интеллект сможет не только планировать и обманывать, но и выходить из-под контроля, действуя вразрез с интересами людей. Уже сегодня алгоритмы демонстрируют способность к манипуляции и лжи, при этом их внутренние процессы остаются непрозрачными даже для разработчиков.
Некоторые специалисты предупреждают, что полное вымирание человечества — не единственный сценарий. Не менее реальна и другая угроза: постепенная утрата людьми самостоятельности и влияния в условиях, когда ключевые решения будут приниматься машинами. В таком мире человек рискует оказаться лишним элементом в собственной цивилизации.
Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.
В МИД Ирана рассказали, что ждет США в случае наземного вторжения на территорию Исламской республики.
Неспособность кремля защитить Иран, своего главного поставщика дронов, наносит серьезный удар по имиджу россии как…
Эяль Замир рассказал, к чему готовится ЦАХАЛ в контексте начла второго этапа боевых действий в…
Эксперты отмечают, что прямая зависимость Израиля от газа через Ормузский пролив отсутствует, но цены растут…
Март 2026 года в таро-настроении — это месяц пробуждения, когда зимняя инерция окончательно сменяется желанием…
Дональд Трамп рассказал, кого он хотел бы видеть на посту руководителя Ирана после окончания войны.