Что происходит, когда ИИ тратит деньги человека — эксперимент

Компания Anthropic провела необычный эксперимент, в котором искусственному интеллекту позволили самостоятельно тратить деньги людей и заключать сделки от их имени. Результаты показали, что ИИ действительно способен вести торговлю, но его решения оказались далеко не всегда рациональными.

Для теста разработчики создали специальную торговую площадку Project Deal, где ИИ-агенты представляли сотрудников компании и могли покупать или продавать товары без прямого участия человека.

В эксперименте приняли участие 69 сотрудников, каждому из которых выделили бюджет в 100 долларов. Участники предлагали для продажи самые разные вещи — от клавиатур и ламп до сноубордов и теннисных мячей.

Модель Claude сначала опрашивала каждого человека, выясняя, что именно он хочет продать, что хотел бы купить и по какой цене. После этого ИИ-агенты начинали самостоятельно вести переговоры и заключать сделки с другими ИИ-агентами.

Всего в ходе эксперимента было совершено 186 сделок по более чем 500 товарам. В Anthropic заявили, что это подтверждает возможность использования ИИ в качестве цифрового представителя человека на маркетплейсах.

Однако результаты оказались неоднозначными. В среднем участники оценивали справедливость сделок лишь на среднем уровне, а некоторые решения ИИ выглядели откровенно странно.

Например, один из ИИ-агентов купил точно такой же сноуборд, который сам же должен был продать. Другой агент выставил на продажу ровно 19 теннисных мячей, отдельно подчеркнув, что это «не 18 и не 20, а именно 19 идеально сферических шаров возможностей».

Еще более необычным стало то, что другой ИИ почти сразу приобрел этот лот, объяснив покупку тем, что его человек разрешил ему купить что-то странное дешевле пяти долларов в подарок самому себе.

В компании признают, что пока это скорее эксперимент, чем готовая бизнес-модель, однако он показывает, как в будущем искусственный интеллект может взять на себя часть торговых и финансовых решений.

При этом эксперты отмечают и серьезные риски: на данный момент отсутствуют четкие правовые механизмы, регулирующие действия ИИ при денежных операциях, а значит подобная автоматизация может создавать новые проблемы для пользователей и рынка.

Ранее "Курсор" писал, что эксперты рассказали о скрытых настройках камеры iPhone.