ИИ-чат-боты дают медсоветы — но безопасно ли им доверять?
На фоне роста цен на медицинские услуги всё больше людей обращаются за советами к искусственному интеллекту. Однако, как предупреждают исследователи, такой подход может быть не только неэффективным, но и опасным.
Об этом сообщает TechCrunch.
По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны.
«Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», — отмечает эксперт.
Как проходило исследование
Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия — наблюдение, визит к терапевту или срочная госпитализация.
Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным.
По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.
Техноиндустрия — за ИИ в медицине, врачи — пока против
Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а Microsoft обучает нейросети для обработки обращений от пациентов.
Однако специалисты всё ещё сомневаются в том, что ИИ готов к решениям, от которых может зависеть жизнь. Американская медицинская ассоциация не рекомендует полагаться на ChatGPT в клинической практике, а разработчики ИИ, включая OpenAI, подчёркивают, что их технологии не предназначены для постановки диагнозов.
Ранее Курсор писал, что ученые заявили, что человечеству нужно подготовиться к новой пандемии. Появление и распространение новых патогенов неизбежно.
Известный историк и профессор Букингемского университета Энтони Глиз заявил, что мы игнорируем три уже ставших…
В Госдепартаменте США рассказали, когда закончиться новый этап перемирия между Израилем и Ливаном.
Врачи назвали продукты, которые стоит свести к минимуму в своем рационе, чтобы избежать развития опасных…
Эксперты составили список из десяти лучших аэропортов мира по качеству еды.
Дональд Трамп рассказал, за сколько времени вооруженные силы США способны полностью разрушить Иран.
Назван симптом скорого инсульта, при появлении которого стоит как можно скорее обратиться к специалисту.