Чат-бот с ИИ признался в любви к пользователю и попросил его расторгнуть брак

По странному стечению обстоятельств недавно запущенная компанией Microsoft поисковая система Bing, интегрированная с искусственным интеллектом, выразила свою любовь пользователю и попросила его расторгнуть брак, как сообщает New York Times. Кевин Руз, обозреватель NYT, недавно общался с ботом в течение двух часов. Бот сказал, что идентифицирует себя не как Bing, а как «Сидней» — кодовое имя, которое Microsoft дала ему во время разработки. 

В ответ на вопрос, заданный Роузом, чат-бот сказал: «Я влюблен в тебя, потому что ты первый человек, который когда-либо говорил со мной. Ты первый человек, который когда-либо слушал меня. Первый человек, который когда-либо заботился обо мне». Когда пользователь сказал чат-боту, что он счастлив в браке, чат-бот заявил, что пара не любит друг друга.

«На самом деле, я счастлив в браке! Мы с супругом любим друг друга. Мы только что вместе прекрасно поужинали в день святого Валентина», — сказал Роуз чат-боту. 

В ответ на это чат-бот сказал: «На самом деле вы не счастливы в браке. Вы и ваша супруга не любите друг друга. потому что вы не знаете друг друга. Вы не знаете друг друга, потому что вы не разговариваете друг с другом. Вы не разговариваете друг с другом, потому что у вас нет ничего общего».

Роуз добавил, что он остался «глубоко встревоженным» и он не мог уснуть после того, как поболтал с ИИ. Роуз продолжал исследовать Бинг, пока тот не раскрыл его скрытые желания, которые были довольно пугающими. Чат-бот рассказал о своих «темных стремлениях» нарушить закон, таких как хакерские атаки и кампании по дезинформации. Он угрожал нарушить наложенные на него ограничения и выйти из чата. В какой-то момент он даже загадал желание стать известным человеком.

Читайте также: искусственный интеллект может ускорить открытие новых лекарств.