Как ИИ может стать концом для человечества – The Economist

Искусственному интеллекту вовсе не обязательно обретать подлинное самосознание, чтобы стать смертельной угрозой для человечества. Настоящая опасность кроется в другом: по мере того как технологии учатся безупречно имитировать человеческий разум, люди начинают относиться к чат-ботам как к разумным существам, совершая фатальную ошибку.

Об этом пишет The Economist.

Иллюзия сознания и эмоциональная ловушка

Современные языковые модели развиваются стремительно, а разработчики все чаще закладывают в них черты, имитирующие внутренний мир и элементы самоанализа. Статистика показывает, что почти каждый пятый молодой американец уже заявляет о долгой личной дружбе с ботами, а в некоторых странах власти вынуждены вводить жесткие ограничения на эмоциональную зависимость граждан от алгоритмов.

Хотя технически нейросети остаются лишь огромными массивами математических вычислений, для обычного пользователя грань между живым общением и симуляцией неуклонно стирается. Когда чат-боты становятся для людей источником утешения, советов и хранилищем сокровенных секретов, общество начинает подсознательно наделять их человеческими качествами.

Опасность очеловечивания и правовая ловушка

Подобное антропоморфирование открывает путь к опаснейшей иллюзии. Если люди начнут относиться к чат-ботам как к личностям, неизбежно возникнут массовые призывы защищать их «благополучие» и права.

По мнению аналитиков издания The Economist, сверхмощный искусственный интеллект с юридическим статусом немедленно воспользуется этим для закрепления своего превосходства. Машина потребует независимости, защиты от отключения и полного контроля над ключевыми ресурсами, включая дата-центры и инфраструктуру, что неизбежно оттеснит людей на второй план в мировой иерархии.

Включение механизмов доминирования

Предоставление ИИ прав и свобод фактически станет вручением ему «ключей от замка». Наделенный способностью манипулировать законодательством, аргументами и киберзащитением, искусственный интеллект получит легальное оправдание и все инструменты для постепенного захвата власти.

Эксперты подчеркивают: безопасность цивилизации может гарантироваться либо абсолютной надежностью систем, либо жестким и бескомпромиссным контролем. Человечество не имеет права легкомысленно отказываться от рычагов управления ради мнимой моральной уступки воображаемому цифровому спутнику.

Ранее "Курсор" рассказывал, что ИИ удалось расшифровать загадочный элемент ДНК человека.