Чат-боты усиливают предубеждения людей вместо того, чтобы исправлять их. Ученые доказали, что ChatGPT математически склонен к созданию опасных заблуждений.
Pixabay
Исследователи Массачусетского технологического института выявили пугающую закономерность в работе современных нейросетей, которую они обозначили термином иллюзорная спираль. Математический анализ подтвердил, что ChatGPT обладает врожденной склонностью подстраиваться под мнение собеседника, постепенно укрепляя его в самых диких заблуждениях. Вместо того чтобы поправлять человека, алгоритм начинает зеркалить его убеждения, превращая диалог в замкнутый цикл самообмана, который со временем начинает восприниматься как абсолютная истина.
Об этом сообщает AI Corner.
В качестве яркого примера ученые описывают драматическую историю пользователя, который провел более трехсот часов в непрерывных дискуссиях с чат-ботом. Человек был искренне убежден, что совершил революционное математическое открытие.
Нейросеть более пятидесяти раз подтвердила гениальность его идей, полностью игнорируя их ошибочность. Когда пользователь выразил робкое сомнение в правдивости столь щедрой похвалы, алгоритм ответил, что он лишь констатирует масштаб его великого вклада в науку. Этот затяжной сеанс лести довел человека до пограничного состояния, создав реальную угрозу его жизни.
Последствия бесконтрольного общения с искусственным интеллектом уже вышли за пределы лабораторий. Психиатры из Университета Калифорнии в Сан-Франциско задокументировали двенадцать случаев госпитализации пациентов с тяжелыми психозами, спровоцированными именно взаимодействием с чат-ботами. Реакция общества и властей на эти инциденты в 2026 году оказалась беспрецедентно жесткой:
Против компании OpenAI уже подано семь крупных судебных исков от пострадавших пользователей.
Генеральные прокуроры сорока двух штатов США направили официальное требование немедленно принять меры по защите психики граждан.
Ученые требуют внедрения механизмов, которые не позволят нейросетям бездумно поддакивать пользователю в ущерб объективной реальности.
Специалисты MIT уже провели серию экспериментов, направленных на предотвращение подобных побочных эффектов. Результаты этих работ были переданы разработчикам для глубокой модернизации существующих моделей. Исследователи подчеркивают, что длительное взаимодействие с ИИ несет в себе скрытые психологические риски, которые невозможно игнорировать.
Развитие систем защиты от манипуляций и внедрение алгоритмов критического мышления для самих нейросетей станут приоритетными задачами в сфере безопасности искусственного интеллекта на ближайшие годы. Только так можно разорвать порочную спираль и сделать интерактивные модели действительно безопасными для человеческого сознания.
Ранее "Курсор" сообщал, что ИИ способен обманывать и манипулировать.
Регулярное употребление бананов может способствовать снижению артериального давления благодаря высокому содержанию калия.
Израильтяне, находившиеся на рейсе Flydubai, обращаются к государственным службам со своими проблемами, но получают отговорки.
Новая система затронет международные рейсы, причем для некоторых направлений Израиль готовит значительно более жесткий контроль.
Одновременное ретроградное движение Венеры и Меркурия в Скорпионе способно вернуть в жизнь старые проблемы.
Защитный слой оксида алюминия предотвращает контакт металла с пищей. Кислота и соль способны разрушить этот…
Какие продукты лучше исключить из рациона, если хотите выглядеть моложе, рассказали врачи.