Доверять ИИ свое здоровье опасно - названы главные причины

Современные системы искусственного интеллекта, включая популярные чат-боты, пока не могут надежно выполнять роль медицинских консультантов, особенно на ранних этапах диагностики.

К такому выводу пришли исследователи, опубликовавшие результаты работы в журнале JAMA Network Open. В рамках исследования были протестированы 21 модель ИИ на основе десятков клинических сценариев. Несмотря на высокую точность при формулировании итогового диагноза, системы допустили ошибки более чем в 80% случаев на этапе ранней дифференциальной диагностики.

Этот этап считается ключевым, поскольку именно здесь необходимо определить возможные причины симптомов и отсеять лишние варианты. По словам авторов исследования, именно в условиях высокой неопределенности алгоритмы демонстрируют наибольшую слабость.

Специалисты отмечают, что многие модели склонны давать уверенные ответы даже при недостатке данных. Это может вводить пользователей в заблуждение и усиливать тревожность, особенно при самостоятельной попытке оценить состояние здоровья.

При этом исследователи подчеркивают, что ошибки не всегда означают полностью неверный результат — в ряде случаев ответы ИИ были частично корректными. Однако даже такие неточности могут привести к неправильным выводам, задержке обращения за медицинской помощью или лишним обследованиям.

Эксперты предупреждают, что использование искусственного интеллекта в качестве инструмента для самодиагностики остается рискованным. Несмотря на развитие технологий, окончательные решения в вопросах здоровья должны приниматься при участии квалифицированных врачей.

Таким образом, исследование показывает, что ИИ может быть полезен для получения общей информации, но не готов заменить медицинскую экспертизу, особенно на начальных этапах диагностики.

Ранее "Курсор" писал, что эксперты рассказали, какие действия нельзя совершать при зарядке смартфона.