ИИ учится быть человеком, но последствия оказались неожиданными

Современные системы ИИ научились поддерживать разговор настолько естественно, что пользователи все чаще воспринимают их не просто как компьютерные программы, а как полноценных собеседников. Однако такая привычка потенциально способна влиять на отношение человека к окружающим.

Об этом говорится в материале The Atlantic, посвященном последствиям антропоморфизации искусственного интеллекта. Авторы обращают внимание на менее очевидный риск развития технологии: проблема может заключаться не в том, что машины станут людьми, а в том, что люди начнут относиться к ним как к людям.

Современный чат-бот способен проявлять внимание в разговоре, подстраиваться под стиль пользователя, запоминать контекст беседы и формулировать ответы так, чтобы они воспринимались дружелюбными и эмоционально уместными. При этом подобное поведение само по себе не является доказательством наличия у системы сознания или человеческих эмоций.

Что может происходить с самими людьми

Исследования, на которые обращает внимание издание, указывают на необычную взаимосвязь. Люди, сильнее склонные наделять искусственный интеллект человеческими качествами, в некоторых экспериментах одновременно демонстрировали меньшую склонность видеть человеческие качества в других людях.

Это может иметь практические последствия. В частности, участники легче соглашались с решениями, способными негативно отразиться на работе или благополучии окружающих.

Нейробиолог Анил Сет обращает внимание на опасность неправильной оценки границы между человеком и созданными им технологиями. Если приписывать машинам качества, которыми они в действительности могут не обладать, существует риск одновременно недооценивать особенности человеческого сознания.

Опасность может оказаться незаметной

Есть и другой потенциальный эффект. Алгоритмические системы обычно оптимизируются под определенные показатели — скорость, эффективность, вероятность достижения заданного результата. По мере того как люди все чаще поручают им рабочие и бытовые задачи, подобная логика может влиять и на человеческий процесс принятия решений.

ИИ уже способен помогать с перепиской, планированием поездок, поиском информации и множеством повседневных задач. Одновременно чат-боты становятся постоянными собеседниками для некоторых пользователей.

Именно постепенность этого процесса исследователи считают особенно интересной. Человек может не замечать, насколько сильно меняется его отношение к технологии, когда взаимодействие с ней становится ежедневной привычкой.

При этом речь не идет о доказанном неизбежном эффекте для каждого пользователя ИИ. Реакция людей на технологии различается, а обнаруженные исследователями связи сами по себе не означают, что использование чат-ботов обязательно снижает эмпатию.

Ранее "Курсор" писал, что USB-флешки начинают уходить в прошлое.