Можно ли доверять ИИ в вопросах здоровья - масштабное исследование

Об этом сообщает TechCrunch.

По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны.

«Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», — отмечает эксперт.

Как проходило исследование

Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия — наблюдение, визит к терапевту или срочная госпитализация.

Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным.

По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.

Техноиндустрия — за ИИ в медицине, врачи — пока против

Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а Microsoft обучает нейросети для обработки обращений от пациентов.

Однако специалисты всё ещё сомневаются в том, что ИИ готов к решениям, от которых может зависеть жизнь. Американская медицинская ассоциация не рекомендует полагаться на ChatGPT в клинической практике, а разработчики ИИ, включая OpenAI, подчёркивают, что их технологии не предназначены для постановки диагнозов.

Ранее Курсор писал, что ученые заявили, что человечеству нужно подготовиться к новой пандемии. Появление и распространение новых патогенов неизбежно.