Поддельные лица, созданные ИИ, уже «слишком хороши», предупреждают исследователи

Способность моделей ИИ создавать убедительные человеческие изображения прошла долгий путь. Новое исследование показывает, что распознавать лица, созданные искусственным интеллектом, уже слишком сложно для большинства людей. Еще более тревожно то, что так называемые «суперраспознаватели» работают лишь незначительно лучше. Визуальные подсказки, которые когда-то показывали изображения, созданные искусственным интеллектом, становятся все труднее обнаружить, хотя они и не исчезли полностью.

Думаете, вы сможете быстро обнаружить фальшивые лица, созданные ИИ? Подумайте еще раз. Согласно недавно опубликованному исследованию австралийских исследователей, лица, сгенерированные искусственным интеллектом, теперь практически невозможно обнаружить – за исключением небольшого меньшинства людей, которые чрезвычайно квалифицированы в анализе черт лица. В результате могут пострадать процессы безопасности и проверки личности, хотя мы все еще можем предпринять шаги для смягчения проблемы.

Исследование провели исследователи из UNSW в Сиднее и Австралийского национального университета (США).АНУ) и теперь опубликовано в Британском журнале психологии. Команда предупреждает, что «синтетические лица, созданные искусственным интеллектом», могут выглядеть более реалистично, чем фотографии реальных людей, и их данные подтверждают этот вывод.

Два австралийских университета пригласили 125 участников, в том числе 36 «суперраспознавателей», известных своими исключительными способностями к распознаванию лиц. Контрольная группа состояла из 89 участников. Исследователи попросили их всех пройти онлайн-тест, в ходе которого им показали серию реальных человеческих лиц, созданных искусственным интеллектом.

Результаты показали, что люди со средними навыками распознавания показали себя лишь немного лучше, чем случайные участники. Даже группа «суперраспознавателей» лишь с небольшим отрывом превзошла среднестатистических участников. Однако все участники были одинаково уверены в своей предполагаемой способности распознавать изображения, созданные ИИ.

Современные лица, сгенерированные ИИ, могут выглядеть удивительно реалистично, не демонстрируя ни одного из очевидных визуальных артефактов, создаваемых более ранними моделями ИИ.

Ошибки такого типа теперь встречаются гораздо реже, что делает лица, созданные ИИ, более эффективными для обмана пользователей. В результате исследователи предупреждают, что опасное сочетание самоуверенности и все более убедительных дипфейков может подвергнуть риску отдельных лиц и организации. Мошенники, мошенники и киберпреступники наверняка уже используют это для незаконной деятельности.

Тест UNSW на распознавание лиц доступен онлайн с бесплатной демо-версией, позволяющей каждому оценить свои навыки.