Ученые опасаются, что искусственный интеллект прибегнет к тактике "постепенного обессиливания" человечества.
pixabay.com
Вероятность того, что человечество может исчезнуть из-за стремительного развития искусственного интеллекта (ИИ), составляет «не менее 95%», если не изменить текущий курс. Такое мнение высказал бывший инженер Google и Microsoft, а ныне руководитель Исследовательского института машинного интеллекта Нейт Соарес.
Об этом пишет The Times.
По словам Соареса, нынешняя ситуация напоминает движение автомобиля, который несётся к пропасти на скорости 100 километров в час: времени для раздумий остаётся всё меньше. Он уверен, что при сохранении нынешних тенденций шанс избежать катастрофы практически равен нулю.
Эти опасения разделяют и ведущие мировые учёные. Среди них — нобелевский лауреат Джеффри Хинтон, известный математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. Все они подписали коллективное заявление, где подчёркивается, что угроза со стороны ИИ должна рассматриваться наравне с глобальными эпидемиями и ядерным оружием.
Главный источник страха экспертов — перспектива появления так называемого суперразумного ИИ (ASI). Такой искусственный интеллект сможет не только планировать и обманывать, но и выходить из-под контроля, действуя вразрез с интересами людей. Уже сегодня алгоритмы демонстрируют способность к манипуляции и лжи, при этом их внутренние процессы остаются непрозрачными даже для разработчиков.
Некоторые специалисты предупреждают, что полное вымирание человечества — не единственный сценарий. Не менее реальна и другая угроза: постепенная утрата людьми самостоятельности и влияния в условиях, когда ключевые решения будут приниматься машинами. В таком мире человек рискует оказаться лишним элементом в собственной цивилизации.
Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.
Депутат Кнессета от «Еш Атид» направила письмо министру здравоохранения Хаиму Кацу с просьбой увеличить бюджет…
Врач против фейковых обвинений в адрес ЦАХАЛа.
Ускоренный обмен веществ помогает не только улучшить самочувствие, но и естественно снизить вес.
ХАМАС планирует завтра передать тела некоторых погибших заложников.
Дроны и диверсии россии в Европе — подготовка к конфликту с НАТО?
Исследования показали, что употребление кефира поможет снизить риск кариеса.