ИИ-сообщник: в США подросток убил семью после консультаций с ChatGPT

В штате Массачусетс (США) правоохранительные органы арестовали 17-летнего Арджуна Аравинда по подозрению в жестоком убийстве своей 45-летней матери Судхи Венкатесан и 14-летнего брата Сиддхарта.

По данным издания The Guardian, ключевыми уликами в деле стали не только следы насилия в семейном доме, но и истории, которые обвиняемый предварительно генерировал с помощью нейросети ChatGPT.

В ходе расследования прокуратура округа Мидлсекс изучила цифровую активность задержанного. Окружной прокурор Мариан Райан заявила, что подросток активно использовал чат-бот для создания специфических художественных текстов в жанре готического романа, детально прописывая сценарии гибели своих родственников. Подросток задавал модели наводящие вопросы о персонажах, прорабатывал теоретические способы нанесения увечий и моделировал ситуации с угрозами для собственной семьи, фактически превратив ИИ в инструмент для детального планирования реального преступления.

Экспертиза зафиксировала у погибших травмы, характерные для ударов тупым предметом. На данный момент Аравинд помещен под стражу без права освобождения под залог, ему предъявлены официальные обвинения в нападении, нанесении тяжких телесных повреждений и умышленном убийстве. Данный случай уже вызвал дискуссию в юридических и IT-кругах США относительно границ контроля за промптами пользователей и обязанностей разработчиков ИИ перехватывать запросы с явными признаками подготовки к насильственным преступлениям.

Ранее "Курсор" писал, что в Филадельфии у еврейского музея произошла антисемитская атака.