ИИ научился выдавать недостоверные факты за правду, обводя вокруг пальца экспертов.
Pixabay
Широкое распространение генеративного искусственного интеллекта (ИИ) привело к росту числа поддельных изображений, которые стали появляться не только в интернете, но и в научных публикациях.
Об этом сообщает портал The Conversation.
Возможность за несколько секунд создавать реалистичные изображения по текстовому описанию ставит под сомнение надежность традиционных способов проверки визуальных доказательств в исследованиях. Инструменты ИИ постепенно меняют подход к созданию и публикации научных изображений.
Ученые используют их для подготовки иллюстраций, генерации синтетических данных и обработки лабораторных снимков. Однако доступность таких технологий размывает границу между допустимым улучшением материалов и созданием полностью вымышленных данных.
В апреле 2026 года журнал New England Journal of Medicine отозвал научную статью после выявления изображения, созданного с помощью ИИ. Ранее аналогичные случаи произошли с другими публикациями, где были обнаружены нереалистичные биологические структуры.
Разработчики инструментов для выявления подделок пытаются решить проблему, однако технологии генерации изображений развиваются быстрее, чем системы их обнаружения.Раньше научные изображения считались надежным доказательством благодаря сложному оборудованию и экспертизе.
Сегодня реалистичные фейки ставят это доверие под угрозу: люди могут отвергать настоящие данные и принимать подделки, что ведет к кризису доверия к науке.
"Если аудитория вообще перестанет доверять визуальным доказательствам, наука потеряет один из самых мощных инструментов для общественной коммуникации", — подчеркнули ученые.
Ученые считают, что для борьбы с фейками необходимо уделять внимание происхождению изображений так же, как и данным исследований. Авторы должны открыто сообщать об использовании ИИ при создании или изменении материалов. Только прозрачность и соблюдение стандартов помогут сохранить доверие к научным изображениям.
Ранее "Курсор" писал, что развитие технологий ИИ, которые должны были упростить выполнение повседневных задач, неожиданно вызвало опасения по поводу их влияния на человеческие когнитивные способности.
Мы часто виним летнюю жару в плохом сне. Однако на самом деле проблема гораздо глубже.
ЦАХАЛ расследует обстоятельства взрыва, в результате которого тяжело пострадал резервист.
С возрастом риск повреждения суставов возрастает, но некоторые повседневные привычки способны разрушить их в любом…
В Ливане представили план, касающийся приграничной зоны с Израилем, однако его реализация вызывает немало вопросов.
После ракетных атак КСИР на базы США в Кувейте и Бахрейне Вашингтон и Тегеран экстренно…
Мессенджер внедряет систему имен пользователей, которая повысит конфиденциальность общения и защиту личных данных.