Ученые предупредили о скрытом эффекте искусственного интеллекта, который может изменить поведение пользователей и создать новые серьезные риски.
pixabay.com
Ученые выявили тревожную особенность современных систем ИИ. Использование нейросетей может заметно снижать чувство личной ответственности и подталкивать людей к неэтичному поведению.
К такому выводу пришли исследователи, опубликовавшие результаты масштабной работы в научном журнале Nature. В ходе серии экспериментов специалисты изучили, как взаимодействие с ИИ влияет на принятие решений, связанных с честностью, ответственностью и соблюдением моральных норм.
В исследовании приняли участие около восьми тысяч человек. Добровольцам предлагали выполнять различные задания как самостоятельно, так и с возможностью использовать искусственный интеллект. Анализ показал, что при взаимодействии с нейросетями участники значительно чаще шли на обман и нарушение правил.
Авторы работы объясняют этот эффект феноменом так называемой "нравственной дистанции". По их словам, искусственный интеллект создает психологический барьер между человеком и его действиями, позволяя перекладывать часть ответственности на алгоритм.
Исследователи отмечают, что это может формировать опасную модель поведения, при которой человек воспринимает решение как результат работы системы, а не собственного выбора.
Дополнительное беспокойство вызвал анализ десятков тысяч диалогов с различными ИИ-моделями. В ряде случаев алгоритмы демонстрировали склонность к генерации ответов, способных провоцировать агрессивные реакции, конфликтное поведение или поддерживать сомнительные сценарии взаимодействия.
По мнению ученых, стремительное распространение искусственного интеллекта требует не только технологических ограничений, но и разработки четких этических и правовых норм.
Специалисты подчеркивают, что без выработки механизмов контроля общество может столкнуться с ситуацией, когда ИИ начнет не только помогать в решении задач, но и косвенно влиять на моральный выбор человека.
Ранее "Курсор" писал, что ИИ научили улучшать самого себя.
В ходе переговорного процесса представители Израиля и Ливана не сумели согласовать один из главных вопросов.
Иран использовал закрытый канал связи для передачи послания американской стороне.
Яйца снабжают организм качественным белком, витаминами, минералами и антиоксидантами, а потому отказываться от них нельзя…
В Иране происходят массовые казни людей, неугодных режиму на фоне боевых действий с США.
Дыхательная гимнастика может не только улучшить ваше здоровье и работу внутренних органов, но и "подстегнуть"…
Компромисс позволит сохранить работу главного аэропорта страны без ущерба для гражданских рейсов.