ИИ способен уничтожить человечество по своему сценарию - ученые

Говоря об апокалипсисе, связанном с искусственным интеллектом (ИИ), многие представляют ядерные удары, созданные в лабораториях смертельные вирусы или армии роботов, напоминающих персонажей «Терминатора». Однако ученые все чаще рассматривают менее очевидную угрозу — постепенное «ослабление человечества» (human enfeeblement).

Об этом сообщает издание Daily Mail.

Исследователи считают, что потенциальная угроза ИИ для человечества может оказаться куда менее очевидной, чем сценарии с восстанием машин. Эксперты предупреждают о постепенном "ослаблении человечества" — утрате навыков критического мышления, планирования и самостоятельного принятия решений из-за постоянной передачи задач искусственному интеллекту.

По мере того как люди будут все чаще доверять машинам интеллектуальную и повседневную работу, они могут становиться менее самостоятельными и постепенно терять способность решать сложные задачи без помощи технологий.

По мнению старшего преподавателя робототехники и ИИ Университета Шеффилд Халлам Самуэля Винанзи, именно такая зависимость от ИИ может представлять серьезную угрозу для человечества.

"Со временем эти незначительные решения могут привести к тому, что население будет вряд ли способно мыслить без помощи искусственного интеллекта, и что оно будет менее способно понимать, проверять и отменять системы, от которых зависит", — подчеркнул Винанзи.

Все больше исследований указывает на то, что этот процесс уже может начаться. На фоне стремительного развития ИИ специалисты все чаще предупреждают о потенциальных рисках технологии. Так, 27-летний Джейкоб Коксон, участвовавший в обучении моделей Anthropic, призвал не недооценивать возможности ИИ, особенно в случае появления сверхинтеллекта.

По его словам, разработчики всерьез допускают, что он способен уничтожить человечество уже в этом десятилетии. Эксперты по-разному оценивают возможный сценарий угрозы со стороны ИИ. Одни опасаются, что вышедшая из-под контроля система получит доступ к критической инфраструктуре, включая энергосети и АЭС.

Другие допускают, что ИИ может случайно спровоцировать ядерный конфликт или помочь создать опасные патогены. Создание смертельных вирусов по-прежнему требует физической работы в лаборатории, которую ИИ не способен полностью заменить.

Однако, по мнению экспертов, главная угроза может быть иной: из-за чрезмерной полезности технологий люди начнут все чаще передавать им свои задачи. Доктор Винанзи называет это постепенной утратой человеческих способностей из-за зависимости от машин.

По словам Миотти, особенно тревожно то, что этот процесс может развиваться не постепенно, а гораздо быстрее.

Ранее "Курсор" писал, что исследователи создали ИИ-систему, способную по результатам сканирования мозга реконструировать изображения, которые видит человек.