ИИ и ученые попались на шутливое исследование – детали курьеза

Современный цифровой мир снова доказал свою уязвимость перед лицом красивых фейков. Шведская исследовательница решила проверить на прочность передовые алгоритмы и систему научной фильтрации, создав несуществующее заболевание с помощью сотен очевидных абсурдов — и результат превзошел все ожидания.

Об этом идет речь в статье Nature.

Рождение «биксонимании» и прозрачные намеки

Чтобы проверить, насколько критически искусственный интеллект и академическое сообщество относятся к информации, шведская исследовательница выдумала несуществующую болезнь под названием «биксонимания». По легенде, этот недуг якобы развивался от слишком долгих посиделок перед монитором и проявлялся в покраснении век. При этом создательница фейка даже не пыталась скрыть подвох, оставив в тексте статьи кричащие подсказки.

В списке благодарностей значился профессор Академии Звездного флота из вселенной Star Trek, спонсором выступал вымышленный фонд Сайдшоу Боба из мультсериала «Симпсоны», а в методологии прямо указывалось, что участниками эксперимента стали «50 вымышленных людей». Кроме того, в самом тексте несколько раз открыто заявлялось, что исследование является выдумкой.

Как топовые нейросети поверили в абсурд

Однако защитные механизмы искусственного интеллекта с треском провалили проверку на здравый смысл. Чат-боты и поисковые алгоритмы мгновенно проглотили наживку, превратив очевидную шутку в «научный факт». Copilot авторитетно объявил биксонимию редким заболеванием, Gemini принялся усердно искать симптомы и отправлять мнимых пациентов к офтальмологу, а Perplexity и вовсе сгенерировал несуществующую статистику о том, что от болезни страдает «1 случай на 90 тысяч человек». Даже ChatGPT, обладающий продвинутыми фильтрами рассуждения, в конце концов сломался и начал воспринимать выдумку со всей серьезностью.

Человеческий фактор: когда наука подводит

Самым ироничным финалам этой истории стало то, что нейросети оказались не одиноки в своей доверчивости. Индийские исследователи умудрились на полном серьезе процитировать этот откровенно пародийный труд на страницах рецензируемого научного журнала Cureus. Инцидент ярко обнажил проблему современных фильтрации контента и проверки источников, показав, что слепая вера в печатное слово и авторитет научных баз данных одинаково свойственна как кремниевым алгоритмам, так и живым ученым.

Ранее "Курсор" рассказывал, что ChatGPT меняет мозг человека.