Почему лица ИИ внушают людям больше доверия, чем настоящие

Современные системы искусственного интеллекта (ИИ) научились генерировать настолько реалистичные человеческие лица, что многие люди воспринимают их как более достоверные, чем фотографии настоящих людей. По мнению исследователей, такая особенность может значительно облегчить работу мошенников и способствовать распространению масштабных кампаний по дезинформации.

Об этом сообщает портал Earth.

Исследовательница из Ланкастерского университета Алексис Макгвайр вместе с коллегами изучила, насколько хорошо люди способны отличить настоящие фотографии лиц от изображений, созданных современными ИИ-системами на основе диффузионных моделей.

В первом эксперименте 169 добровольцам показали 96 портретов людей разного пола, возраста и происхождения, предложив определить, какие снимки являются реальными, а какие сгенерированы искусственным интеллектом.

В среднем участники правильно отвечали лишь в 58,4% случаев — показатель оказался лишь немного выше случайного угадывания. При этом исследователи заметили любопытную особенность: несмотря на более высокий уровень развития диффузионных моделей, их изображения испытуемые воспринимали как менее реалистичные по сравнению с лицами, созданными более ранними GAN-системами.

Во втором эксперименте участников попросили оценить, насколько доверие вызывают те же 96 ИИ-лиц, по шкале от 1 до 7. Неожиданно именно фотографии реальных людей получили самую низкую среднюю оценку — 4,03 балла. Изображения, созданные старыми нейросетями, набрали 4,36 балла, а лица, сгенерированные современными диффузионными моделями, получили наивысший результат — 4,70 балла.

"Этот вывод является парадоксом и подчеркивает вероятность того, что суждения о реалистичности и достоверности руководствуются двумя разными психологическими механизмами", — отметила Макгвайр.

Ученые выяснили, что мозг по-разному оценивает реалистичность изображения и уровень доверия к нему. Поэтому лица, созданные ИИ, могли казаться менее похожими на настоящих людей, но при этом вызывать больше доверия.

По словам исследователей, доступность таких технологий повышает риск мошенничества, кражи личных данных и распространения дезинформации, поскольку распознать подделку становится все сложнее.

Ранее "Курсор" писал, что исследователи предупредили, что продолжительное общение с чат-ботами на основе ИИ может быть связано с определенными рисками.