Израильские врачи впервые получат правила работы с ИИ - детали

Израильская медицинская ассоциация (ИМА) впервые установила правила использования искусственного интеллекта (ИИ) в системе здравоохранения.

Об этом сообщает новостной портал Ynet.

Согласно позиции комиссии по этике, ответственность за лечение пациента всегда остаётся за врачом. Новые правила обязывают врачей информировать пациентов о применении ИИ и требуют следить за тем, чтобы использование технологий не приводило к утрате профессиональных навыков.

За последние два года ИИ стал активно применяться в израильской системе здравоохранения. Он используется в больницах и больничных кассах в самых разных клинических задачах — от повышения точности диагностики и эффективности лечения до обработки больших объёмов медицинских данных и поддержки исследований.

Среди решений на базе ИИ — системы прогнозирования рисков тяжёлых состояний, инструменты автоматической интерпретации результатов обследований, а также технологии "усиленного интеллекта", которые помогают врачам подбирать персонализированные схемы терапии, включая лечение онкологических заболеваний и назначение антибиотиков.

Комиссия по этике ИМА, которая является одной из ключевых организаций, формирующих клинические рекомендации для врачей, в ближайшие дни представит первый документ, регулирующий этические рамки использования ИИ. В нем закрепляется основополагающий принцип: искусственный интеллект не может заменять профессиональное клиническое суждение врача.

"Врач будет использовать инструмент ИИ для помощи при принятии решений, но не как замену клиническому суждению", — говорится в сообщении.

В основе новых правил лежит принцип «человека в системе», предполагающий обязательный человеческий контроль над любыми решениями, принятыми с участием ИИ. Согласно документу ИМА, полная ответственность за диагноз и лечение остаётся за врачом, который не должен слепо полагаться на алгоритмы.

Ему также предписывается выступать посредником между цифровыми инструментами и пациентом, а решения объяснять ясно и доступно с точки зрения медицинской этики. Отдельно закрепляется право пациента на информированность: врач обязан сообщать о применении ИИ в процессе принятия решений и разъяснять логику рекомендаций простым языком для получения согласия на лечение.

Документ также регулирует вопросы конфиденциальности медицинских данных. В нем закреплён этический запрет на использование информации о пациентах в коммерческих целях в системах ИИ без их явного согласия. Кроме того, врачи обязаны убедиться, что все данные защищены в соответствии с максимально строгими стандартами информационной безопасности.

Ранее "Курсор" писал, что современные системы искусственного интеллекта, включая распространенные чат-боты, пока не обладают достаточной надежностью для использования в качестве медицинских консультантов, особенно при первичной диагностике.