Ученые опасаются, что искусственный интеллект прибегнет к тактике "постепенного обессиливания" человечества.
pixabay.com
Вероятность того, что человечество может исчезнуть из-за стремительного развития искусственного интеллекта (ИИ), составляет «не менее 95%», если не изменить текущий курс. Такое мнение высказал бывший инженер Google и Microsoft, а ныне руководитель Исследовательского института машинного интеллекта Нейт Соарес.
Об этом пишет The Times.
По словам Соареса, нынешняя ситуация напоминает движение автомобиля, который несётся к пропасти на скорости 100 километров в час: времени для раздумий остаётся всё меньше. Он уверен, что при сохранении нынешних тенденций шанс избежать катастрофы практически равен нулю.
Эти опасения разделяют и ведущие мировые учёные. Среди них — нобелевский лауреат Джеффри Хинтон, известный математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. Все они подписали коллективное заявление, где подчёркивается, что угроза со стороны ИИ должна рассматриваться наравне с глобальными эпидемиями и ядерным оружием.
Главный источник страха экспертов — перспектива появления так называемого суперразумного ИИ (ASI). Такой искусственный интеллект сможет не только планировать и обманывать, но и выходить из-под контроля, действуя вразрез с интересами людей. Уже сегодня алгоритмы демонстрируют способность к манипуляции и лжи, при этом их внутренние процессы остаются непрозрачными даже для разработчиков.
Некоторые специалисты предупреждают, что полное вымирание человечества — не единственный сценарий. Не менее реальна и другая угроза: постепенная утрата людьми самостоятельности и влияния в условиях, когда ключевые решения будут приниматься машинами. В таком мире человек рискует оказаться лишним элементом в собственной цивилизации.
Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.
Правительство резко раскритиковало БАГАЦ за решение относительно начала расследования трагедии 7 октября.
Мальчик застрелил отца через пару часов после запрета на игры. Полиция Данкеннона сообщает, что ребенок…
Армия президента Сирии ведет жестокие боевые действия против курдского населения на северо-востоке страны.
Израильские транспортные узлы ждет глубокая трансформация. Опыт станций Иерусалима доказал, что современный сервис возвращает людей…
Исследование показало, что нехватка социальных связей сопоставима по опасности с традиционными факторами сердечно-сосудочных заболеваний.
Армия США проводит усиленную подготовку к возможной операции в Иране, которая может состояться в ближайшее…