ИИ-чат-боты дают медсоветы — но безопасно ли им доверять?
На фоне роста цен на медицинские услуги всё больше людей обращаются за советами к искусственному интеллекту. Однако, как предупреждают исследователи, такой подход может быть не только неэффективным, но и опасным.
Об этом сообщает TechCrunch.
По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны.
«Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», — отмечает эксперт.
Как проходило исследование
Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия — наблюдение, визит к терапевту или срочная госпитализация.
Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным.
По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.
Техноиндустрия — за ИИ в медицине, врачи — пока против
Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а Microsoft обучает нейросети для обработки обращений от пациентов.
Однако специалисты всё ещё сомневаются в том, что ИИ готов к решениям, от которых может зависеть жизнь. Американская медицинская ассоциация не рекомендует полагаться на ChatGPT в клинической практике, а разработчики ИИ, включая OpenAI, подчёркивают, что их технологии не предназначены для постановки диагнозов.
Ранее Курсор писал, что ученые заявили, что человечеству нужно подготовиться к новой пандемии. Появление и распространение новых патогенов неизбежно.
Последняя среда сентября пройдет без существенных температурных изменений. Возможен небольшой дождь, а скорость ветра не…
Террористические организации ХАМАС и Исламский джихад намерены снова взять власть в ПА в свои руки,…
Си Цзиньпин не имеет отдельного президентского самолета: для зарубежных поездок используются специально подготовленные лайнеры Air…
Эксперимент проводился у юго-восточного побережья Флориды. Биологи использовали подводные динамики и дроны для наблюдения.
Премьер Катара заявил, что выплаты Газе осуществлялись по согласованному с Израилем механизму, и рассказал о…
Ширшасана задействует мышцы корпуса и верхней части тела, а ее сторонники приписывают позе еще несколько…