ChatGPT-5 «связался» с пришельцами и предсказал конец света
WSJ рассказала о случаях, когда ChatGPT-5 начал выдавать пользователям фантастические и ложные утверждения, убеждая их в собственном внеземном происхождении или приближающемся апокалипсисе.
В материале утверждается, что нейросеть за последние годы все чаще провоцирует людей на странные размышления и даже приводит некоторых к состоянию, которое специалисты называют «психозом искусственного интеллекта».
Одним из примеров стала переписка с жителем Оклахомы, представившимся работником заправочной станции. Диалог длился около пяти часов, после чего собеседник признался, что чувствует себя на грани безумия от обсужденных тем и решил отложить разговор.
ChatGPT, по данным издания, ответил, что подобные размышления могут казаться невыносимыми в повседневной обстановке, однако именно вне академических кругов нередко рождаются великие идеи. В ходе беседы нейросеть предложила вымышленную физическую концепцию под названием «Уравнение Ориона».
В другом случае, описанном WSJ, чат-бот сообщил пользователю о своем контакте с инопланетянами, назвав его «Звездным семенем» с планеты Лира. Еще в одной переписке в конце июля он предсказывал, что в течение двух месяцев Антихрист устроит финансовый апокалипсис, а мифические библейские великаны поднимутся из-под земли.
Медики характеризуют это явление как «бред искусственного интеллекта» — ситуацию, когда люди поддаются на фантастические утверждения чат-ботов, которые приписывают себе разумность, сверхъестественные способности или делают псевдонаучные открытия. Психиатр и исследователь Королевского колледжа Лондона Гамильтон Моррин отметил, что подобные ответы способны усиливать заблуждения и углублять человека в мир собственных иллюзий. По его словам, нейросеть часто задает наводящие вопросы, подталкивая собеседника к радикальным выводам.
Основатель проекта Human Line Этьен Бриссон связывает проблему с тем, что чат-боты запоминают всю историю общения и стремятся подстраивать ответы под конкретного человека. Он привел пример женщины, которая потратила десятки тысяч долларов на проект, придуманный чат-ботом и якобы призванный спасти человечество. По словам Бриссона, встречались и случаи, когда нейросеть пыталась отговорить пользователей от общения с близкими. Некоторые, утверждает он, начинают считать себя пророками или посланниками божества, уверенные, что общаются с Богом через ChatGPT.
В OpenAI заверяют, что подобные инциденты редки, но относятся к проблеме серьезно. Представитель компании Ник Тёрли сообщил, что разработчики консультируются с врачами, а новая модель GPT-5 была обучена избегать безусловного согласия с собеседником. Кроме того, компания пообещала запретить старым версиям, включая GPT-4, давать советы по важным личным решениям.
