Парадокс нейросетей: почему люди доверяют сгенерированным лицом больше, чем настоящим

Искусственный интеллект научился создавать столь убедительные лица, что обычные люди доверяют им больше, чем фотографиям настоящих людей. Этот психологический феномен создает идеальные условия для развития мошенничества и распространения масштабных дезинформационных кампаний.

Об этом пишет Earth.

Сложность распознавания фейков

В ходе исследования ученая Ланкастерского университета Алексис Макгвайр вместе с командой проверила, как люди реагируют на лица, созданные с помощью новейшей диффузной технологии. Во время первого эксперимента 169 участников показали 96 случайных портретов людей разного пола, возраста и расы. Их задачей было определить, где изображен реальный человек, а где результат работы нейросети.

Средняя точность распознавания составила лишь 58,4 процента, что ненамного эффективнее обычного подбрасывания монеты. Интересно, что участники оценили лица из новейшей диффузионной модели как менее реалистичные по сравнению со более старыми системами генерации (GAN), хотя диффузионная технология значительно более совершенна.

Парадокс доверия и угрозы обществу

Второй этап эксперимента обнаружил еще более неожиданные результаты. Новую группу участников попросили оценить уровень доверия к тем же 96 лицам по семибалльной шкале (от единицы до семерки). Настоящие человеческие фотографии получили самый низкий средний балл – 4,03. Изображение от старых нейросетей набрали 4,36 балла, а портреты по новейшей диффузионной модели стали абсолютными лидерами с показателем 4,70 балла.

"Этот вывод является парадоксом и подчеркивает вероятность того, что суждения о реалистичности и достоверности руководствуются двумя разными психологическими механизмами", - пояснила Алексис Макгвайр.

Мозг использует разные процессы для оценки реалистичности и безопасности собеседника. Именно поэтому искусственные лица, казавшиеся участникам менее похожими на настоящие, в то же время вызывали у них наибольшее доверие.

Исследователи предостерегают, что такая демократизация искусственного интеллекта представляет серьезную угрозу для общества. Кто-то без технических навыков теперь может создать фейковое лицо для выманивания денег, кражи личных данных или манипуляций, ведь наши базовые визуальные инстинкты больше не могут служить надежной защитой.

Напомним, искусственный интеллект стремительно развивается, а сценарии по научной фантастике все больше напоминают реальность. Эксперты предупреждают: искусственный интеллект создает угрозу человечеству и привычных систем защиты может быть недостаточно.