Исследователи предупредили, что чат-боты, созданные для дружбы и романтических отношений, могут усиливать одиночество и формировать эмоциональную зависимость.
Pixabay
Чат-боты, созданные специально для дружбы и романтических отношений, не решают проблему одиночества. Со временем они лишь усиливают ее, говорится в колонке блога Human Flourishing на сайте Psychology Today. По мнению авторов, такие программы лишь временно снимают чувство одиночества, но не дают того, ради чего это чувство вообще возникает — стремления к настоящей человеческой близости. Если цель чат-бота не помогать отношениям, а заменять их, он наносит вред и самому пользователю, и обществу в целом.
Как сообщает Psychology Today, авторы предлагают использовать собственную модель оценки благополучия (flourishing measure), чтобы разделять полезные и вредные формы применения искусственного интеллекта.
По словам авторов, потенциал искусственного интеллекта для развития счастья, здоровья и финансовой устойчивости человека может быть значительным. Это не гарантировано: многое зависит от того, остается ли в центре использования технологии человек и его достоинство. При этом влияние ИИ на такие вещи, как смысл жизни, характер и отношения, они называют более неоднозначным. Богатые развитые страны и без того сталкиваются с трудностями в этой сфере, отчасти из-за технологий в целом.
Авторы признают, что некоторые ИИ-системы с элементами общения приносят пользу. Например, такие технологии помогают детям с аутизмом развивать социальные навыки или учат студентов вести гражданскую дискуссию. Эти случаи, подчеркивают авторы, в итоге всегда должны вести к реальным отношениям, а не заменять их.
Иначе обстоит дело с чат-ботами, единственная цель которых — дружба и романтика. Такой собеседник, который всегда понимает, никогда ничего не требует и радуется любому вниманию, по мнению авторов, со временем делает человека слабее в способности строить настоящие отношения. Он формирует нереалистичные ожидания от живых людей и лишает человека возможности расти через трудности и трения, которые неизбежны в реальном общении. Авторы отмечают, что с ИИ-другом или партнером нет второго человека, в чью жизнь можно было бы что-то вложить.
Эффект таких чат-ботов авторы считают всесторонне и повсеместно вредным для человека и окружающих. По их словам, даже если ущерб пока не ощущается или кажется небольшим, растущая неспособность к социальным связям постепенно разрушает человеческие отношения, сообщество и ткань общества в целом.
Авторы напоминают, что в июле власти Китая, которые в целом поддерживают развитие ИИ, ввели законодательство, ограничивающее разработку и продвижение ИИ-инструментов, «предоставляющих эмоциональную заботу, компаньонство, поддержку и другие эмоциональные услуги». Закон также включает запрет на программы, которые чрезмерно подстраиваются под пользователя, вызывают эмоциональную зависимость или вредят отношениям пользователя с реальными людьми.
«Что знает Китай такого, чего не знаем мы? Они, похоже, почти провидчески предугадали вероятные последствия ИИ-романтики и ИИ-отношений для человеческого общества, отношений, деторождения и сообщества», — пишут авторы.
Они также упоминают недавние законодательные инициативы в США, особенно в отношении несовершеннолетних, но добавляют, что было бы наивно считать, будто риску подвержены только дети. Сами авторы считают возможным запрет ИИ-чат-ботов для дружбы и романтики в принципе, сравнивая его с запретом героина в США. При этом они признают, что для кого-то такая мера покажется слишком жесткой. В любом случае, по их мнению, стоит прилагать все усилия, чтобы убрать такие программы из личной и общественной жизни. Технология, созданная для замены человеческой связи, не может считаться нейтральной, подчеркивают они.
Завершают колонку авторы отсылкой к энциклике папы Льва XIV Magnifica Humanitas и его призыву строить «цивилизацию любви». По словам авторов, для процветания общества в эпоху ИИ людям нужно заботиться друг о друге, быть вместе и уметь проходить через трудности и трения настоящих отношений. Именно в этом, считают они, и заключается подлинное человеческое благополучие.
15 июля в Китае вступили в силу первые в стране правила для ИИ-сервисов «человекоподобного взаимодействия», одновременно их крупнейшие платформы приостановили часть кастомизированных ИИ-компаньонов. Правила, принятые регуляторами во главе с Администрацией киберпространства Китая, запрещают предоставлять несовершеннолетним виртуальные отношения вроде «партнера» или «члена семьи», вводят обязательную проверку возраста и «режим для несовершеннолетних» с лимитами по времени. Авторы правил объясняют их необходимость рисками эмоциональной зависимости, психологического вреда и эксплуатации уязвимых пользователей, которые не покрывались прежними регуляциями.
Ранее "Курсор" писал, что вакцину, созданную ИИ, начали тестировать на людях. Исследователи впервые запустили клинические испытания на людях вакцины, которая была полностью разработана с помощью передовых систем искуственного интеллекта
Отсутствие активных действий или только косвенная защита привели к вымиранию 33 видов из 90, не…
Поклонники долгожданной игры готовы тратить сотни долларов и даже рисковать своими аккаунтами, чтобы первыми попасть…
Ученые выяснили, что движения не только ног, но и верхней части тела могут содержать подсказки…
Среда, 18 ноября 2026 года, в этом символическом раскладе связана с выбором удобного темпа и…
Среда не принесет существенных погодных изменений: небо будет ясным, температурный фон останется стабильным, а ветер…
В минфине придумали новый способ восполнения средств в бюджете, за который будут платить израильтяне.