ИИ уничтожит человечество с вероятностью 95%, - бывший инженер Google

Вероятность того, что человечество может исчезнуть из-за стремительного развития искусственного интеллекта (ИИ), составляет «не менее 95%», если не изменить текущий курс. Такое мнение высказал бывший инженер Google и Microsoft, а ныне руководитель Исследовательского института машинного интеллекта Нейт Соарес.

Об этом пишет The Times.

По словам Соареса, нынешняя ситуация напоминает движение автомобиля, который несётся к пропасти на скорости 100 километров в час: времени для раздумий остаётся всё меньше. Он уверен, что при сохранении нынешних тенденций шанс избежать катастрофы практически равен нулю.

Эти опасения разделяют и ведущие мировые учёные. Среди них — нобелевский лауреат Джеффри Хинтон, известный математик Йошуа Бенжио, а также руководители OpenAI, Anthropic и Google DeepMind. Все они подписали коллективное заявление, где подчёркивается, что угроза со стороны ИИ должна рассматриваться наравне с глобальными эпидемиями и ядерным оружием.

Главный источник страха экспертов — перспектива появления так называемого суперразумного ИИ (ASI). Такой искусственный интеллект сможет не только планировать и обманывать, но и выходить из-под контроля, действуя вразрез с интересами людей. Уже сегодня алгоритмы демонстрируют способность к манипуляции и лжи, при этом их внутренние процессы остаются непрозрачными даже для разработчиков.

Некоторые специалисты предупреждают, что полное вымирание человечества — не единственный сценарий. Не менее реальна и другая угроза: постепенная утрата людьми самостоятельности и влияния в условиях, когда ключевые решения будут приниматься машинами. В таком мире человек рискует оказаться лишним элементом в собственной цивилизации.

Напомним, "Курсор" писал о том что хакер под псевдонимом «Плиний Освободитель» создал модель искусственного интеллекта (ИИ), способную выполнять задачи в Даркнете, включая найм киллеров. Эксперимент, получивший название «Агент 47», стал шокирующим примером того, как передовые технологии могут быть использованы в криминальных целях.