Новое исследование Стэнфордской высшей школы бизнеса показало, что политические послания, генерируемые искусственным интеллектом, могут быть столь же убедительными, как и тексты, написанные людьми. Более того, когда людям говорят, что автор — искусственный интеллект, а не другой человек, они с большей вероятностью примут аргументы, даже если они противоречат их собственным взглядам.
С распространением больших языковых моделей возникает вопрос: сможет ли ИИ активно участвовать в политической коммуникации? А что будет, если такие тексты станут регулярной частью информационного потока? Ученые предполагают, что машины могут усилить поляризацию или, наоборот, помочь людям быть более открытыми к различным мнениям.
Команда хотела понять два ключевых момента: насколько убедительны политические сообщения ИИ по сравнению с человеческими и влияет ли знание о том, что автор — ИИ, на восприятие этих сообщений.
Исследователи провели серию экспериментов, в которых участники читали тексты на различные политические темы: запрет курения в общественных местах, контроль над огнестрельным оружием, вакцинация и налог на выбросы углерода. Некоторые сообщения пишутся людьми, другие — искусственным интеллектом. Часть участников сообщила, что автором был человек, а другая часть — что это ИИ. Затем выяснялось, изменилось ли мнение респондентов.
Оказалось, что убедительность сообщений ИИ в среднем такая же, как у людей. А если людям сказали, что автор — ИИ, они были более открыты для аргументов, противоречащих их собственным убеждениям. Человеческие тексты воспринимались через повествование и личный опыт, тогда как сообщения ИИ воспринимались через логику и факты. Кроме того, участники с большей вероятностью делились своими взглядами, искали дополнительную информацию и менее враждебно относились к противоположной позиции, если считали, что текст был сгенерирован машиной.
С одной стороны, ИИ может выступать эффективным коммуникатором в политической сфере. При разумном использовании оно может смягчить поляризацию и повысить открытость к другим мнениям. С другой стороны, готовность принять аргументы ИИ не зависит от их точности, что создает риск распространения дезинформации.
Хотя эффект от текстов ИИ относительно невелик, их способность укреплять существующие убеждения и масштабы технически может использоваться как для полезной, так и для вредоносной политической коммуникации. Исследователи предупреждают: перед выборами важно учитывать влияние ИИ на общественное мнение и разработать меры по ответственному использованию таких технологий.
