Арест за слова: ChatGPT прочитал угрозы и вызвал полицию

Переписка с ChatGPT стала уликой до совершения преступления. OpenAI передала данные в ФБР — и мужчину задержали за сутки до планируемого убийства. Но дело может рассыпаться из-за позиции компании.

Об этом сообщает BBC.

Как ChatGPT "сдал" пользователя ФБР

Американец в переписке с ChatGPT расспрашивал о токсичных веществах и подробно описывал намерение убить своего восьмилетнего сына. Помимо этого, он обсуждал нападения на школы и церкви.

OpenAI зафиксировала в его сообщениях триггерные слова и передала информацию в ФБР. Сотрудники бюро задержали мужчину за день до даты, которую он сам назвал как день убийства. При обыске дома нашли емкости с неизвестным веществом. Это первый публично известный случай, когда человека арестовали за переписку с искусственным интеллектом — без факта самого преступления.

Обвинения мужчине пока не предъявлены.

Неожиданный поворот: компания скрывает ответы ИИ

Здесь начинается юридическая проблема. OpenAI передала следствию только сообщения самого пользователя — без ответов ChatGPT.

Адвокаты указывают: для полноценного уголовного дела нужен полный диалог. Без ответов ИИ невозможно установить контекст — был ли это реальный умысел или, например, терапевтический разговор. Однако компания отказывается предоставлять ответы ChatGPT.

Почему — не объясняется. Это ставит под вопрос перспективы обвинения.

Что это значит

Случай вызвал широкую дискуссию о границах конфиденциальности переписки с ИИ:

• ChatGPT не является защищенным каналом связи — в отличие от общения с адвокатом.
• OpenAI может передавать данные властям при угрозе жизни людей.
• При этом компания сама определяет, какую именно информацию предоставлять следствию.

Как ранее писал "Курсор", ChatGPT может передать переписку пользователя полиции при наличии реальной угрозы жизни — и компания уже делала это в случаях с угрозами насилием.