ИИ представляет новую угрозу для человечества - ученые

Широкое распространение генеративного искусственного интеллекта (ИИ) привело к росту числа поддельных изображений, которые стали появляться не только в интернете, но и в научных публикациях.

Об этом сообщает портал The Conversation.

Возможность за несколько секунд создавать реалистичные изображения по текстовому описанию ставит под сомнение надежность традиционных способов проверки визуальных доказательств в исследованиях. Инструменты ИИ постепенно меняют подход к созданию и публикации научных изображений.

Ученые используют их для подготовки иллюстраций, генерации синтетических данных и обработки лабораторных снимков. Однако доступность таких технологий размывает границу между допустимым улучшением материалов и созданием полностью вымышленных данных.

В апреле 2026 года журнал New England Journal of Medicine отозвал научную статью после выявления изображения, созданного с помощью ИИ. Ранее аналогичные случаи произошли с другими публикациями, где были обнаружены нереалистичные биологические структуры.

Разработчики инструментов для выявления подделок пытаются решить проблему, однако технологии генерации изображений развиваются быстрее, чем системы их обнаружения.Раньше научные изображения считались надежным доказательством благодаря сложному оборудованию и экспертизе.

Сегодня реалистичные фейки ставят это доверие под угрозу: люди могут отвергать настоящие данные и принимать подделки, что ведет к кризису доверия к науке.

"Если аудитория вообще перестанет доверять визуальным доказательствам, наука потеряет один из самых мощных инструментов для общественной коммуникации", — подчеркнули ученые.

Ученые считают, что для борьбы с фейками необходимо уделять внимание происхождению изображений так же, как и данным исследований. Авторы должны открыто сообщать об использовании ИИ при создании или изменении материалов. Только прозрачность и соблюдение стандартов помогут сохранить доверие к научным изображениям.

Ранее "Курсор" писал, что развитие технологий ИИ, которые должны были упростить выполнение повседневных задач, неожиданно вызвало опасения по поводу их влияния на человеческие когнитивные способности.