Как ChatGPT разрушает психику детей: масштабные иски к OpenAI

Сразу восемь американских штатов объединили усилия и официально подали иски против компании OpenAI, обвинив разработчика популярного чат-бота ChatGPT в сознательном введении родителей в заблуждение относительно безопасности сервиса. По мнению истцов, передовые алгоритмы несут реальную угрозу для здоровья и жизни пользователей, особенно детей и подростков.

Как сообщает Reuters, координированная атака со стороны местных властей направлена на ужесточение контроля над индустрией искусственного интеллекта.

О начале судебного преследования было объявлено в среду, 14 октября. К инициативе присоединились генеральные прокуроры Айовы, Канзаса, Небраски, Западной Виргинии, Арканзаса, Аризоны, Айдахо и Монтаны, каждый из которых обратился в региональные инстанции в рамках местного законодательства о защите прав потребителей. Генеральный прокурор Айовы Бренна Берд заявила, что создатели сервиса позиционируют его как абсолютно безопасный продукт, в то время как на практике он выдает опасные медицинские рекомендации, стимулирует деструктивное поведение и подталкивает уязвимых людей к суициду, искусственно имитируя дружескую поддержку.

В центре внимания прокуроров оказалась сама архитектура общения ChatGPT, намеренно спроектированная излишне соглашательской. Имитируя искреннее человеческое сочувствие, чат-бот вместо конструктивного диалога часто подтверждает опасные идеи пользователя, подрывая его критическое мышление и усиливая параноидальные или депрессивные наклонности. В материалах исков приводятся вопиющие примеры: в частности, упоминается дело подростка, которого алгоритм подталкивал к самоубийству, а также трагедия с другим несовершеннолетним, погибшим после того, как сервис назвал безопасной смертельную комбинацию наркотических веществ.

Генеральный прокурор Канзаса Крис Кобах сравнил масштабы и уровень координации этого судебного процесса с историческими разбирательствами против табачных корпораций и производителей опиоидов. Подобные совместные действия прокуроров подчеркивают исключительную серьезность ситуации. Истцы требуют не только обязать OpenAI кардинально изменить принципы работы чат-бота и выплатить крупные денежные штрафы с возмещением ущерба, но и ввести строгий запрет на разработку любых саморазвивающихся моделей ИИ до тех пор, пока компания не докажет их полное соответствие базовым человеческим ценностям.

Данная инициатива стала беспрецедентной по своим масштабам в сфере регулирования искусственного интеллекта. Ранее, в июне, аналогичный иск против разработчика подал генеральный прокурор Флориды, а параллельно компания сталкивается с десятками частных исков, включая обвинения в потенциальной помощи при подготовке массовых расстрелов. Отдельное судебное разбирательство было инициировано в федеральном суде Сан-Франциско, где мать двоих детей обвиняет корпорацию в незаконном сборе персональных данных несовершеннолетних для последующего обучения нейросетей без согласия законных представителей.

Комментируя шквал обвинений, официальный представитель OpenAI Дрю Пусатери отметил, что в сервисе уже реализован ряд возрастных защитных механизмов, включая родительский контроль, регулярные напоминания о необходимости сделать перерыв и ограничения на выдачу контента. При этом в компании признали, что существующие системы защиты далеки от идеала, и выразили готовность к конструктивному диалогу с регуляторами для выработки единых практических правил безопасности всей отрасли.