ИИ убьет нас не так, как в кино – предупреждение ученых

Популярная культура десятилетиями приучала нас бояться апокалипсиса кинематографического масштаба: ядерных грибов, вышедших из-под контроля армий роботов-терминаторов и смертоносных вирусов. Однако ведущие исследователи в области искусственного интеллекта утверждают, что реальная угроза человеческой цивилизации кроется совсем в другом измерении. Вместо мгновенного и громкого уничтожения мир может столкнуться с медленным, тихим и незаметным процессом саморазрушения, который ученые называют «ослаблением человечества».

Об этом рассказали в Daily Mail.

Угроза когнитивной разгрузки и деградации

Вместо того чтобы захватывать мир с помощью оружия, искусственный интеллект постепенно лишает людей самостоятельности через практику так называемой когнитивной разгрузки. Психологи определяют это явление как привычку перекладывать умственные усилия на внешние инструменты, экономя собственную энергию. Мы доверяем нейросетям написание текстов, анализ данных, поиск решений и повседневное планирование, даже не замечая, как атрофируются наши собственные аналитические способности.

Доктор Самуэль Винанзи, старший преподаватель робототехники и искусственного интеллекта в Университете Шеффилд Халлам, подчеркивает всю коварность этого сценария. По его словам, со временем мелкие и незначительные уступки машинам приведут к тому, что население утратит способность мыслить критически и контролировать системы, от которых полностью зависит жизнь общества. Мы уже охотно передаем алгоритмам финансовый мониторинг, медицинскую диагностику и логистику, рискуя в один прекрасный день оказаться совершенно беспомощными перед лицом критических сбоев.

Между мифами о восстании машин и реальностью

Экспертное сообщество раскололось в оценках того, чего именно стоит опасаться больше всего. Некоторые разработчики из передовых лабораторий, включая сотрудников компании Anthropic, открыто заявляют о вероятности появления сверхъумного ИИ, способного выйти из-под контроля и нанести смертельный удар по человечеству уже в текущем десятилетии. Другие специалисты опасаются автономизации критической инфраструктуры, где бесконтрольные алгоритмы могут спровоцировать техногенные катастрофы или масштабные конфликты.

Тем не менее, доктор Винанзи призывает не увлекаться голливудскими сюжетными линиями, напоминая, что реальный мир по-прежнему держится на физическом труде, материалах и людях. Создание сложных систем или выполнение базовых лабораторных задач все еще требуют реального человеческого участия, а значит, мгновенный силовой захват планеты выглядит маловероятным. Настоящая опасность заключается в нашей добровольной капитуляции перед лицом удобных технологий.

Кризис образования и утрата экспертных навыков

Особую тревогу у аналитиков вызывает влияние нейросетей на подрастающее поколение и ключевые профессии. Современные школы и университеты уже ведут ожесточенную борьбу с повальным использованием ChatGPT для выполнения учебных заданий. Если тенденция сохранится, мир получит поколение формально образованных, но абсолютно хрупких людей, умеющих генерировать готовые ответы, но неспособных оценить их достоверность.

Аналогичные риски нависают над квалифицированными специалистами — от инженеров и хирургов до юристов и педагогов. Потеря практики и отказ от самостоятельного решения сложных задач неизбежно ведут к деградации профессиональной экспертизы. В итоге цивилизация рискует прийти к состоянию, когда управление жизненно важными службами и экономикой будет полностью делегировано машинам, а люди превратятся в пассивных наблюдателей собственной судьбы.

Ранее "Курсор" рассказывал, что ИИ приблизился к «чтению мыслей».