ИИ-чат-боты дают медсоветы — но безопасно ли им доверять?
На фоне роста цен на медицинские услуги всё больше людей обращаются за советами к искусственному интеллекту. Однако, как предупреждают исследователи, такой подход может быть не только неэффективным, но и опасным.
Об этом сообщает TechCrunch.
По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны.
«Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», — отмечает эксперт.
Как проходило исследование
Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия — наблюдение, визит к терапевту или срочная госпитализация.
Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным.
По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.
Техноиндустрия — за ИИ в медицине, врачи — пока против
Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а Microsoft обучает нейросети для обработки обращений от пациентов.
Однако специалисты всё ещё сомневаются в том, что ИИ готов к решениям, от которых может зависеть жизнь. Американская медицинская ассоциация не рекомендует полагаться на ChatGPT в клинической практике, а разработчики ИИ, включая OpenAI, подчёркивают, что их технологии не предназначены для постановки диагнозов.
Ранее Курсор писал, что ученые заявили, что человечеству нужно подготовиться к новой пандемии. Появление и распространение новых патогенов неизбежно.
Суммарные потери в войне на Украине могут достигать 2 000 000 человек убитыми и ранеными,…
Аналитик заявил, что стратегия Ирана в ядерной и ракетной сферах вряд ли изменится без смены…
Рейс из Лос-Анджелеса в Тель-Авив был задержан на 2 часа 18 февраля из-за срабатывания протоколов…
Климат наносит сокрушительный удар планете, говорят ученые и предупреждают о серьезной опасности.
Энергия недели помогает тем, кто действует шагами, фиксирует договорённости и бережёт ресурс, а не пытается…
Свержение режима в Иране может создать вакуум власти и привести к хаосу, который окажется опаснее…