Интересные факты

Можно ли доверять ИИ в вопросах здоровья - масштабное исследование

ИИ-чат-боты дают медсоветы — но безопасно ли им доверять?

На фоне роста цен на медицинские услуги всё больше людей обращаются за советами к искусственному интеллекту. Однако, как предупреждают исследователи, такой подход может быть не только неэффективным, но и опасным.

Об этом сообщает TechCrunch.

По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны.

«Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», — отмечает эксперт.

Как проходило исследование

Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия — наблюдение, визит к терапевту или срочная госпитализация.

Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным.

По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.

Техноиндустрия — за ИИ в медицине, врачи — пока против

Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а Microsoft обучает нейросети для обработки обращений от пациентов.

Однако специалисты всё ещё сомневаются в том, что ИИ готов к решениям, от которых может зависеть жизнь. Американская медицинская ассоциация не рекомендует полагаться на ChatGPT в клинической практике, а разработчики ИИ, включая OpenAI, подчёркивают, что их технологии не предназначены для постановки диагнозов.

Ранее Курсор писал, что ученые заявили, что человечеству нужно подготовиться к новой пандемии. Появление и распространение новых патогенов неизбежно.

Автор материала:
Тали Малкина

Недавние новости

Экономика Израиля набирает обороты: что мешает стране подняться выше

Экономические показатели страны заметно улучшились, однако с учетом покупательной способности Израиль занимает лишь 24-е место…

4 минуты назад

Посол Израиля высказался об американских военных: Аракчи съязвил

Глава МИД Ирана иронично отреагировал на слова Йехиэля Лейтера об условиях возвращения американских военнослужащих домой.

10 минут назад

Какой напиток может снизить риск болезней сердца

Крупное исследование китайских ученых показало связь между привычкой пить чай и риском сердечно-сосудистых заболеваний.

21 минута назад

Какой завтрак способен угробить вашу фигуру, рассказал эксперт

Сладкая выпечка, вафли или конфеты - плохой и даже опасный выбор для первой трапезы.

37 минут назад

Телеведущий — Айзенкоту: Вы все равно не станете премьером

Шай Голден призвал лидера блока перемен взять переговоры о коалиции под контроль.

39 минут назад

Барак Сари возмущен: «Вы станете Бени Ганцем»

Политический консультант призвал лидеров оппозиционного блока не идти на союз с Нетаниягу. По его словам,…

44 минуты назад