Появляется новая политическая угроза, гораздо более тонкая, чем протесты или традиционные манипуляции избирателями. Исследователи предупреждают, что высокореалистичные персонажи, управляемые искусственным интеллектом, вскоре могут начать играть важную роль в формировании общественного мнения и влиянии на демократические системы.
Недавняя статья в журнале Science описывает, как большие группы ИИ-персонажей могут убедительно имитировать поведение человека в Интернете. Эти системы могут проникать в цифровые сообщества, участвовать в дискуссиях и влиять на точки зрения с невероятной скоростью. В отличие от более ранних сетей ботов, эти ИИ-агенты могут мгновенно координировать свои действия, реагировать на отзывы и поддерживать единую позицию в тысячах учетных записей.
Быстрый прогресс в области больших языковых моделей и многоагентных систем позволил одному оператору управлять обширными сетями «голосов» ИИ. Эти персонажи могут выглядеть аутентичными, использовать местный язык и тон и взаимодействовать таким образом, который кажется естественным другим пользователям.
Они способны провести миллионы небольших экспериментов, чтобы определить, какие сообщения наиболее убедительны. Это позволяет им совершенствовать свои коммуникационные стратегии в режиме реального времени и создавать иллюзию широкого общественного консенсуса. На самом деле этот консенсус создан искусственно и призван влиять на политические дебаты.
Хотя полностью разработанные роботы с искусственным интеллектом все еще остаются в основном теоретическими, исследователи говорят, что уже есть тревожные признаки. К ним относятся дипфейки, созданные искусственным интеллектом, и фейковые новостные агентства, которые повлияли на недавние предвыборные дебаты в таких странах, как США, Тайвань, Индонезия и Индия, как отмечает ученый-компьютерщик из Университета Британской Колумбии доктор Кевин Лейтон-Браун.
В то же время мониторинговые организации обнаружили прокремлевские сети, распространяющие огромные объемы онлайн-контента. Считается, что эта деятельность направлена на формирование данных, используемых для обучения будущих систем ИИ, потенциально влияющих на их поведение и информационные приоритеты. В перспективе эксперты полагают, что роботы с искусственным интеллектом могут существенно повлиять на баланс сил в демократических обществах. Доктор Лейтон-Браун предупреждает, что эти системы, вероятно, изменят то, как люди доверяют информации в Интернете.
«Не следует полагать, что общество останется неизменным с появлением этих систем. Вероятным результатом станет снижение доверия к незнакомым голосам в социальных сетях, что может усилить влияние знаменитостей и затруднить прорыв сообщений от обычных людей».
делится доктор Лейен-Браун
Исследователи предполагают, что предстоящие выборы могут стать решающим испытанием для этой технологии. Ключевой задачей будет распознавание и противодействие этим кампаниям влияния, основанным на искусственном интеллекте, прежде чем они станут слишком большими, чтобы их можно было контролировать.
Угроза кажется пугающе реальной, особенно на фоне уже существующих проблем с дезинформацией. Вопрос в том, смогут ли демократические институты и технологические компании разработать эффективные механизмы защиты до того, как рой станет повсеместным. Вполне возможно, что следующим шагом станет гонка вооружений между ИИ, создающим фейки, и ИИ, обнаруживающим их.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
