Ученые обнаружили, что модели ИИ становятся более убедительными в диалоге, но их способность работать с точными фактами снижается. Масштабное исследование показывает, что всего за 10 минут разговора чат-боты могут изменить мнение человека, используя мощный аргументирующий прием — лавину фактов и цифр, некоторые из которых, однако, оказываются недостоверными.
Ранее эксперты считали, что ИИ может бороться с дезинформацией, развенчивая мифы и теории заговора в социальных сетях, например, о химтрейлах и плоской Земле. Однако новое исследование показывает обратное:современные модели могут убеждать людей, жертвуя фактической точностью.
Исследовательская группа протестировала 19 языковых моделей на почти 80 000 участниках. Ботов попросили убедить пользователей в необходимости финансировать здравоохранение или изменить иммиграционную политику. В течение 10 минут чат-боты генерировали до 25 заявлений, заваливая участников потоком фактов и статистики — метод, известный как «скачок Гиша». Таким образом, точность фактов снижается. Например, GPT-4 упал с 78% до 62%.
«Разовое» статическое сообщение ИИ из 200 слов не имело заметного эффекта. Десятиминутное взаимодействие в формате диалога примерно в семь строк было гораздо убедительнее. Это оказало неизгладимое влияние на мнение участников.
Эффект от этого метода зависит от того, смогут ли боты действительно взаимодействовать с людьми. Невозможно изменить сам ChatGPT, которым каждую неделю пользуются 900 миллионов человек, но можно создать базовую языковую модель, которая будет работать на веб-сайте, в форме справочного бота или посредством кампаний с текстовыми сообщениями. Кампания со средними ресурсами может реализовать такую систему за несколько недель при затратах около $50 000, но поддерживать долгосрочное взаимодействие с аудиторией будет сложно.
Этот тип технологий может использоваться для продвижения идеологий, создания политических волнений и даже дестабилизации государственных институтов.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
