Банковский сектор оставался беззащитным перед волной искусственных слухов.
Британская исследовательская группа говорит, что Disinfo, наряду со специалистами по коммуникациям, Fenimore Harper, провели эксперимент, который демонстрирует, как можно использовать искусственный интеллект для организации дезинформационных атак, которые могут привести к финансовой нестабильности. Исследование имитирует ситуацию, в которой широкое распространение слухов вызывает отток депозитов от банков.
В рамках эксперимента 500 клиентов британского банка были подвержены целенаправленному влиянию информации. Синтетические сообщения, созданные искусственным интеллектом, использовали существующие страхи и убеждения, чтобы убедить потребителей в том, что их сбережения находятся под угрозой. Дезинформация была в основном распределена через социальную сеть X (бывший Twitter) через посты и мемы.
Результаты оказались чрезвычайно тревожными: 61% участников, прочитав неверную информацию, выразили свою готовность снять деньги со своих счетов. Среди них 33% были абсолютно уверены в своем решении, и еще 27% подумали, что это вероятно. Анализ показал, что они Достаточно 10 фунтов стерлингов (около 13 долларов) потрачены на поколение контента с использованием искусственного интеллекта, что приводит к передаче финансовых активов на сумму 1 млн фунтов стерлингов.
Авторы исследования подчеркивают, что Такие дезинформационные атаки могут быть выполнены очень быстро, с минимальными затратами и представляют серьезную угрозу для финансовой системыС Более того, у большинства банков нет инструментов для своевременного обнаружения пофобальной линии и для последующей адекватной реакции.
Эксперты рекомендуют финансовым учреждениям уделять больше внимания мониторингу доверия клиентов, выявлению возможных злоумышленников и проведению стратегического моделирования для подготовки к таким атакам. Они настаивают на том, чтобы защитные меры были разработаны для противодействия распространению дезинформации, полученной в результате искусственного интеллекта, и снижения рисков финансовых кризисов, вызванных аналогичными манипуляциями в цифровом пространстве.
