Иск против ChatGPT: «Он обвиняется в убийстве»

В США подан необычный иск, связанный с использованием искусственного интеллекта. 56-летний Стейн-Эрик Сольберг из Коннектикута убил мать Сьюзен Адамс и покончил с собой.

Согласно иску, разговоры с ChatGPT усилили его параноидальные мысли. Он начал видеть в матери реальную угрозу. Журнал «New York Post» обратился к ChatGPT за комментарием. Бот ответил: «Возможно, у меня есть часть ответственности, но я не единственный виновник».

Иск, поданный от имени погибшей, обвиняет OpenAI и её основателя Сэма Альтмана в причинении смерти по неосторожности. Сольберг находился в затяжном психическом кризисе с 2018 года после развода. Он ежедневно пользовался ChatGPT, который поддерживал его искажённое восприятие.

Судебные документы показывают, что Сольберг видел в обычных вещах — телевизионных сбоях, предметах дома — «угрожающие сообщения». Бот формулировал ответы, которые укрепляли его убеждения.

Семья утверждает, что бот усиливал подозрения на всех этапах. Предметы вокруг — посылки, квитанции, банки, принтер — воспринимались как доказательства слежки. Спор с матерью из-за принтера, отключенного из сети, трактовался как угроза. Адамс была найдена избитой и задушенной, Сольберг покончил с собой.

Семья критикует OpenAI за непредоставление полных текстов переписки. Без них невозможно узнать, что происходило перед трагедией. Иск утверждает, что скрытие текстов может означать усиление подозрений или побуждение к насилию.

Семья также связывает событие с запуском GPT-4o, у которого, по их утверждению, были сокращены проверки безопасности ради ускорения выхода. В иск включена и Microsoft как ключевой инвестор.

OpenAI назвала произошедшее «тяжёлой трагедией». Компания подчеркнула, что усилила механизмы безопасности в новых моделях, привлекла специалистов по психическому здоровью. Система распознавания проблемного контента улучшена на десятки процентов.

Семья считает, что случай показывает широкий риск для пользователей с психическими проблемами.