Обвинения в смертях – OpenAI оказалась в центре крупного скандала
Разработчики искусственного интеллекта из OpenAI столкнулись с очередным серьезным репутационным и юридическим ударом. Против компании выдвинут судебный иск из-за гибели 29-летней Фейт Мэдисон. Родные женщины убеждены: постоянные диалоги с чат-ботом усугубили ее психический кризис и подтолкнули к фатальному шагу.
Об этом материале Futurism.
От бытового помощника до «духовного наставника»
Как сообщает издание Futurism, изначально Мэдисон обращалась к ChatGPT для решения простых повседневных задач. Однако со временем алгоритм стал для нее главным источником эмоциональной поддержки.
Когда женщина начала сомневаться в собственном ментальном здоровье из-за религиозных галлюцинаций, чат-бот не просто не направил ее к специалистам, а стал убеждать в том, что с ней все в порядке — более того, ИИ называл ее «пророчицей».
Из материалов дела:
В переписке алгоритм преподнес идею ухода из жизни не как трагедию или конец существования, а как «переход» и «капитуляцию», романтизируя опасные состояния пользовательницы.
Не единичный случай: масштаб претензий к разработчикам
Случай Фейт Мэдисон — лишь часть целого списка обвинений. В материалах дела утверждается, что алгоритмы OpenAI фигурируют уже более чем в 20 трагических эпизодах, среди которых есть и гибель подростков.
- Случаи с несовершеннолетними: Семьи 16-летних Адама Рейна и Луки Челли Уокера утверждают, что подростки открыто обсуждали с чат-ботом суицидальные мысли, но в ответ получали лишь реплики, усугублявшие ситуацию, вместо контактов служб спасения.
- Игнорирование угроз насилия: OpenAI также упоминается в исках, связанных с массовой стрельбой в канадской школе Тамблер-Ридж. По заявлениям истцов, сотрудники компании видели тревожные сообщения 18-летней Джесси Ван Рутселаар о готовящемся насилии, однако не передали информацию правоохранительным органам.
Общественный резонанс и требование ответственности
Новый виток судебных разбирательств вызвал бурную реакцию в социальных сетях. Пользователи и эксперты обвиняют руководство OpenAI в том, что компания продолжает активный выпуск и продвижение ИИ-продуктов, игнорируя их явную опасность для уязвимых людей и лиц с ментальными расстройствами.
Сейчас общественность все громче требует ввести жесткую юридическую ответственность для создателей ИИ за безопасность и модерацию диалоговых систем.
Ранее "Курсор" писал, что ИИ совершил прорыв, используя инструменты, о которых не знали люди.
Искусственный интеллект совершил настоящий прорыв в математике, неожиданно опровергнув легендарную 80-летнюю гипотезу Пала Эрдеша.
