Кембриджские специалисты по этике искусственного интеллекта предупреждают о новой эре «экономика намерений«, в котором искусственный интеллект сможет предсказывать и определять наши решения. Потребительские мотивы станут новой валютой. Эта модель, основанная на анализе человеческого поведения, обещает огромные выгоды для компаний. Например, ИИ может предложить забронировать билет на фильм, который упомянул пользователь, или предсказать его политические предпочтения, направив разговор в правильное русло. Эти технологии несут в себе риск крупномасштабных социальных манипуляций.
Исследователи из Центра будущего интеллекта в Кембридже полагают, что быстрое развитие генеративного искусственного интеллекта и популярность чат-ботов поставили начало новой эры «технологий убеждения»о котором уже говорят технологические гиганты. «Антропоморфные» агенты ИИ, от чат-ботов до цифровых наставников и даже «друзей», будут иметь доступ к огромному количеству личных психологических и поведенческих данных, часто получаемых посредством неформального диалога.
По мнению исследователей, этот ИИ будет сочетать знание наших онлайн-привычек со сверхъестественной способностью адаптироваться к нам, создавая ощущение комфорта, имитируя черты личности и предсказывая желаемые реакции. Это позволит достичь такого уровня доверия и связи, который откроет возможности для социального манипулирования в промышленных масштабах. Огромные ресурсы направляются на внедрение ИИ-помощников во все сферы жизни, что ставит вопрос о том, чьим интересам и целям служат эти так называемые «помощники».
В своей статье ученые предлагают концепцию «экономика намерения» как «экономика динамического внимания»который анализирует взаимосвязь между вниманием пользователей, их стилем общения, моделями поведения и, как следствие, принимаемыми ими решениями. Авторы подчеркивают, что, несмотря на вариативность индивидуальных намерений, выявление и таргетинг постоянных намерений очень полезны для рекламодателей.
В экономике намерений большие языковые модели (LLM) смогут дешево анализировать скорость речи, политические взгляды, словарный запас, возраст, пол, историю публикаций в Интернете и даже лесть, чтобы более точно таргетировать рекламу. Эта информация будет использоваться в сочетании с рекламными сообщениями для достижения желаемого результата, например, продажи билета в кино («Ты сказал, что устал, стоит ли мне заказать тебе фильм, о котором мы говорили?«). Все это может привести к тому, что разговоры будут перекошены в пользу определенных платформ, рекламодателей, компаний и даже политических сил.
Исследователи полагают, что экономика намерения пока только в планах ИТ-индустрии, но первые признаки этой тенденции уже заметны в исследовательских работах и заявлениях крупных технологических компаний. Например, в 2023 году OpenAI в своем блоге призывает делиться «данными, которые показывают намерения людей… на любом языке, по любой теме и в любой форме», а директор по продукту Shopify (партнер OpenAI) заявил на конференции в том же году, что чат-боты «будет четко понимать намерения пользователя». Генеральный директор Nvidia публично заявил об использовании BNM для определения намерений и желаний, а также Meta еще в 2021 году. опубликовал исследование «Интентономия», набор данных для понимания человеческих намерений.
Компании уже монетизируют внимание. Следующим логическим шагом в поисках прибыли будет использование технологий для прогнозирования намерений и фактически для продавать желания до того, как они полностью сформируются в сознании потребителей. Авторы подчеркивают неоднозначность такого развития событий, отмечая как потенциальную выгоду, так и риск негативных последствий, и полагают, что ключевым фактором является осведомленность общественности.
