Большие языковые модели, такие как ChatGPT, могут имитировать человеческие эмоции, включая юмор и сочувствие. Однако, как отмечают эксперты, это всего лишь результат алгоритмической обработки языка, а не реальный эмоциональный отклик. В своей публикации издание ZME Science рассказало, какие хитрости разработчиков помогают БЯМУ выглядеть более человечно.
Эти системы используют сложные алгоритмы для анализа и воспроизведения человеческой речи. Например, чтобы создать иллюзия сочувствиямодели выбирают слова и фразы, которые заставляют пользователей чувствовать поддержку. Фразы типа «Это сложный вопрос, но вот несколько идей» демонстрируют очевидную личную приверженность, хотя на самом деле это заранее запрограммированные ответы.
Использование местоимений играет ключевую роль в подражании «человечности». Когда модель говорит «Я думаю» или «вот мои идеи», у него создается впечатление, что у него есть собственное мнение. На самом деле это всего лишь стилистический трюк, повышающий вовлеченность пользователя в разговор.
Обращение к пользователю на «вы» или «ваш» также является важным элементом. Например, в ответах типа «Вот как вы можете справиться с этой задачей» модель обращается к человеку напрямую, создавая впечатление индивидуальной помощи. Это помогает пользователям чувствовать, что их понимают и поддерживают.
Однако за этими словами нет никаких настоящих эмоций. Эмпатия в работе чат-ботов основана на обработке данных о человеческой речи и использовании моделей, вызывающих у собеседника нужную реакцию. Эти иллюзии могут быть полезны, например, в сфере образования или обслуживания клиентов, но они также могут формировать ложные ожидания от технологий.
По мере развития этих систем границы между человеческим и машинным общением становятся все менее и менее заметными. Например, при взаимодействии с ChatGPT многие пользователи могут не осознавать, что взаимодействуют с алгоритмом, а не с живым человеком.
Кроме того, привычка вести «идеальное» общение с чат-ботами может изменить ожидания от общения с реальными людьми. Учитывая, что человеческое общение включает в себя эмоции и непонимание, потребители могут потерять терпимость к сложности человеческого взаимодействия.
Разработка технологий, имитирующих человеческие черты, поднимает серьезные философские вопросы. Например должны ли машины иметь права и рассматриваться как полноправные члены общества.
Ученые предупреждают: несмотря на все преимущества, важно помнить, что кажущаяся человечность чат-ботов на самом деле является всего лишь алгоритмом, обученным имитировать эмоции. Эти технологии удобны и эффективны, но они не могут заменить настоящее человеческое общение. Но в любом случае стремительное развитие искусственного интеллекта явно приведет к серьезным изменениям в обществе.
