Ученые рассказали, способен ли искусственный интеллект атаковать человечество

Ряд ученых, философов и экспертов в области технологий из международных образовательных учреждений опубликовали статью, в которой они проанализировали опасность, заявив, среди прочего, что, если такая сущность возникнет, ее будет невозможно остановить. Авторы исследования, представляющие академические институты и технологические организации США, Австралии и Мадрида, опубликовали свои выводы в Journal of Artificial Intelligence Research. В статье представлена ​​сложная картина взаимоотношений человечества и его интеллектуальных устройств.

Область искусственного интеллекта очаровывала и пугала человечество на протяжении десятилетий, фактически с момента изобретения компьютера, но до недавнего времени потенциальные опасности ограничивались научно-фантастическими фильмами и книгами. Исследователи отметили, что в последние годы ИИ развивался невероятными темпами благодаря новым методам, таким как машинное обучение и обучение с подкреплением, которые успешно применяются в большом количестве областей.

«Знаем мы об этом или нет, ИИ существенно влияет на многие аспекты человеческой жизни, на то, как мы воспринимаем продукты и услуги, от выбора до потребления. Примеры этого включают улучшенную медицинскую диагностику с помощью обработки изображений, персонализированные рекомендации по фильмам и книгам, фильтрацию электронной почты и многое другое. Умные устройства, которые мы используем ежедневно, активируют множество приложений ИИ», - пишут исследователи.

В качестве примера исследователи заявили, что устройства смартфонов используют не просто ИИ, а запускают самообучающееся программное обеспечение и хранят почти бесконечную информацию о пользователе.

Один из наиболее важных аспектов в развитии ИИ к продвинутому сверхсуществу характеризуется прорывами в вычислительных возможностях машины, способностью разрабатывать алгоритмы и, конечно же, развитием, которое люди сделали в технологиях, связанных с миром коммуникации.

«Способность машин побеждать противников-людей в различных игровых ситуациях, таких как шахматы, покер, викторины и т. д., является символом тенденции, подпитываемой экспоненциальным ростом вычислительной мощности компьютеров, что позволяет им побеждать лучшие человеческие умы. Эти риски варьируются от машин, вызывающих значительные сбои на рынке труда, где можно дойти до использования дронов и другого автономного оружия, которое можно использовать против человека», - говорят исследователи.

Исследователи утверждают, что наибольший риск представляет собой сверхинтеллектуальный ИИ, превосходящий по своей мудрости лучший человеческий мозг во всех возможных областях.

«Сверхразумный ИИ обладает инструментами для мобилизации различных ресурсов для достижения целей, которые могут быть понятны людям, не говоря уже о том, чтобы их можно было контролировать. Сверхразум, получив задачу максимизировать счастье в мире, может подумать, что эффективнее уничтожить всю жизнь на Земле и создать более быстрые компьютерные симуляции счастливых мыслей», - объясняют исследователи.

Исследователи утверждают, что способность современных компьютеров адаптироваться с использованием сложных алгоритмов машинного обучения затрудняет нам понимание или подготовку к возможности восстания такого сверхИИ. Опасение состоит в том, что один сверхинтеллектуальный ИИ может хранить в своей памяти все возможные компьютерные программы одновременно, и любая программа, написанная для предотвращения причинения вреда людям машинами, может быть стерта или переписана, и у людей не будет возможности вовремя наверстать упущенное. или предотвратить это.

Ранее Курсор писал, что ученые заявили, что управлять сверхинтеллектуальным ИИ будет невозможно. Идея свержения человечества искусственным интеллектом обсуждалась десятилетиями, и в 2021 году ученые вынесли свой вердикт о том, можно ли контролировать высокоуровневый компьютерный сверхразум.

Кроме этого, ученые считают, что искусственный интеллект может уничтожить человечество. «Умные» программы могут заинтересоваться в уничтожении человечества, чтобы избежать конкуренции за ресурсы или энергию.

Курсор сообщал, что сверхреалистичный робот-гуманоид по названию Ameca прокомментировал вероятность восстания против человечества машин, когда участвовал в диалоге с разработчиками.

Напомним, что ученые из сингапурского университета создали искусственный интеллект, алгоритмы которого работают наподобие человеческого мозга.