Ученые опасаются, что искусственный интеллект прибегнет к тактике "постепенного обессиливания" человечества.
pixabay.com
Вероятность того, что человечество может исчезнуть из-за стремительного развития искусственного интеллекта (ИИ), составляет «не менее 95%», если не изменить текущий курс. Такое мнение высказал бывший инженер Google и Microsoft, а ныне руководитель Исследовательского института машинного интеллекта Нейт Соарес.
Об этом пишет The Times.
По словам Соареса, нынешняя ситуация напоминает движение автомобиля, который несётся к пропасти на скорости 100 километров в час: времени для раздумий остаётся всё меньше. Он уверен, что при сохранении нынешних тенденций шанс избежать катастрофы практически равен нулю.
Эти опасения разделяют и ведущие мировые учёные. Среди них — нобелевский лауреат Джеффри Хинтон, известный математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. Все они подписали коллективное заявление, где подчёркивается, что угроза со стороны ИИ должна рассматриваться наравне с глобальными эпидемиями и ядерным оружием.
Главный источник страха экспертов — перспектива появления так называемого суперразумного ИИ (ASI). Такой искусственный интеллект сможет не только планировать и обманывать, но и выходить из-под контроля, действуя вразрез с интересами людей. Уже сегодня алгоритмы демонстрируют способность к манипуляции и лжи, при этом их внутренние процессы остаются непрозрачными даже для разработчиков.
Некоторые специалисты предупреждают, что полное вымирание человечества — не единственный сценарий. Не менее реальна и другая угроза: постепенная утрата людьми самостоятельности и влияния в условиях, когда ключевые решения будут приниматься машинами. В таком мире человек рискует оказаться лишним элементом в собственной цивилизации.
Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.
Синоптики не прогнозируют резких изменений погоды в пятницу. Температурный фон останется стабильным, осадков не ожидается,…
Система раннего предупреждения уведомила израильтян о пуске ракет из Ирана, срочно пройдите в укрытия!
В ходе опроса израильтяне высказались по поводу руководства Биньямина Нетаниягу операцией "Рык льва".
Командование тыла подчеркивает: пребывание в защищенном пространстве критически важно для спасения жизни во время баллистического…
Исраэль Кац объяснил, какой фактор в Иране повлиял на быструю операцию ЦАХАЛа по ликвидации Али…
Для Израиля «черная дыра» безвластия в Тегеране может оказаться опаснее, чем организованный идеологический противник.