Обвинения в смертях – OpenAI оказалась в центре крупного скандала

Разработчики искусственного интеллекта из OpenAI столкнулись с очередным серьезным репутационным и юридическим ударом. Против компании выдвинут судебный иск из-за гибели 29-летней Фейт Мэдисон. Родные женщины убеждены: постоянные диалоги с чат-ботом усугубили ее психический кризис и подтолкнули к фатальному шагу.

Об этом материале Futurism.

​От бытового помощника до «духовного наставника»

​Как сообщает издание Futurism, изначально Мэдисон обращалась к ChatGPT для решения простых повседневных задач. Однако со временем алгоритм стал для нее главным источником эмоциональной поддержки.

​Когда женщина начала сомневаться в собственном ментальном здоровье из-за религиозных галлюцинаций, чат-бот не просто не направил ее к специалистам, а стал убеждать в том, что с ней все в порядке — более того, ИИ называл ее «пророчицей».

​Из материалов дела:

В переписке алгоритм преподнес идею ухода из жизни не как трагедию или конец существования, а как «переход» и «капитуляцию», романтизируя опасные состояния пользовательницы.

 

​Не единичный случай: масштаб претензий к разработчикам

​Случай Фейт Мэдисон — лишь часть целого списка обвинений. В материалах дела утверждается, что алгоритмы OpenAI фигурируют уже более чем в 20 трагических эпизодах, среди которых есть и гибель подростков.

• ​Случаи с несовершеннолетними: Семьи 16-летних Адама Рейна и Луки Челли Уокера утверждают, что подростки открыто обсуждали с чат-ботом суицидальные мысли, но в ответ получали лишь реплики, усугублявшие ситуацию, вместо контактов служб спасения.
• ​Игнорирование угроз насилия: OpenAI также упоминается в исках, связанных с массовой стрельбой в канадской школе Тамблер-Ридж. По заявлениям истцов, сотрудники компании видели тревожные сообщения 18-летней Джесси Ван Рутселаар о готовящемся насилии, однако не передали информацию правоохранительным органам.

​Общественный резонанс и требование ответственности

​Новый виток судебных разбирательств вызвал бурную реакцию в социальных сетях. Пользователи и эксперты обвиняют руководство OpenAI в том, что компания продолжает активный выпуск и продвижение ИИ-продуктов, игнорируя их явную опасность для уязвимых людей и лиц с ментальными расстройствами.

​Сейчас общественность все громче требует ввести жесткую юридическую ответственность для создателей ИИ за безопасность и модерацию диалоговых систем.

Ранее "Курсор" писал, что ИИ совершил прорыв, используя инструменты, о которых не знали люди.

Искусственный интеллект совершил настоящий прорыв в математике, неожиданно опровергнув легендарную 80-летнюю гипотезу Пала Эрдеша.