Сегодня люди часто используют анонимные или фейковые учетные записи в своей онлайн-активности, надеясь скрыть свою личность. Однако вскоре эта мера окажется бесполезной, поскольку основные языки способны эффективно обнаруживать фейки и в значительном количестве случаев определять настоящего владельца фейкового аккаунта.
Чтобы обнаружить фейковый аккаунт и определить его истинного владельца, модели ИИ используют ряд идентифицирующих сигналов — это могут быть фрагменты или большие объемы идентичных данных, а также отличительные признаки поведения.
К такому результату пришли исследователи из Швейцарского федерального технологического института в Цюрихе (ETH Цюрих), независимая образовательная и исследовательская программа MATS и компания Anthropic.
«Наши результаты имеют серьезные последствия для конфиденциальности в Интернете. Средний пользователь Интернета уже давно действует в соответствии с моделью неявных угроз, полагая, что псевдонимы обеспечивают адекватную защиту, поскольку целевая деанонимизация требует значительных усилий. Большие языковые модели опровергают это предположение».
учёные пишут
В ходе исследования в 68% случаев модели ИИ успешно идентифицировали фейковые профили, а в 90% из них определили их истинных владельцев.
Открытие ученых может иметь последствия не только для тех, кто пишет под другими именами в соцсетях. ИИ теоретически способен раскрыть настоящие имена хакеров, которые публикуют конфиденциальную информацию о сотрудниках компаний и тех, кто задает вопросы на открытых форумах. Иногда руководители компаний, стремящиеся продвинуть свой бизнес или навредить конкурентам, пишут в социальных сетях под другими именами — в таких действиях ранее признавался даже самый богатый человек на Земле Илон Маск. Кроме того, ИИ способен раскрывать имена тех, чья жизнь может зависеть от анонимности: информаторов, активистов или жертв насилия.
Чтобы защитить людей от деанонимизации с помощью ИИ, исследователи предложили несколько мер предосторожности: ограничить доступ к пользовательским данным через API платформ, улучшить механизмы обнаружения автоматизированного сбора информации и ограничить экспорт больших объемов данных. Однако, как признают исследователи, эти меры не гарантируют успеха. В ближайшие годы, если не месяцы, будет все сложнее помешать ИИ выполнять эти операции.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
