В послании по случаю 60-го Всемирного дня социальных коммуникаций 24 января (день отмечается 17 мая) Папа раскритиковал продукты искусственного интеллекта и дипфейки.
Лев XIV, который не против определенных игр и фильмов и не далек от современной культуры, выразил неодобрение искусственно созданным или измененным лицам и голосам — т.н. дипфейки. Эти комментарии, вероятно, отражают позицию католической церкви.
«Наши лица и голоса – уникальные, отличительные черты каждого человека; они раскрывают нашу уникальную индивидуальность и являются определяющими элементами каждой встречи с другими людьми. (…) Лица и голоса священны. Бог, создавший нас по Своему образу и подобию, дал их нам, когда призвал нас к жизни через Слово, которое Он сказал нам.«— говорится в сообщении.
Голоса и лица – не единственное, что беспокоит понтифика. Он видит проблему на более высоком уровне — как язык и другие порождающие модели влияют на жизнь и общение.
«…Цифровые технологии угрожают радикально изменить некоторые фундаментальные основы человеческой цивилизации, иногда принимаемые как должное. Подражая человеческим голосам и лицам, мудрости и знаниям, осознанности и ответственности, сочувствию и дружбе, системы, известные как искусственный интеллект, не только разрушают информационные экосистемы, но и задействуют самый глубокий уровень общения – человеческие отношения.«
Папа не призывает к отказу от искусственного интеллекта, но подчеркивает его ответственное использование и осознание рисков.
«Защита лиц и голосов в конечном итоге означает защиту самих себя. Смелое, решительное и благоразумное использование возможностей, предлагаемых цифровыми технологиями и искусственным интеллектом, не означает закрывать глаза на критические проблемы, сложности и риски.«
«Не отказывайся от способности думать«, — подчеркивает отдельно Лев XIV.
Препятствием для этого глава католической церкви видит не только искусственный интеллект, но и социальные сети. В частности, их современная технологическая организация, алгоритмы вознаграждения пользователей и выбор контента.
«Уже давно имеется достаточно доказательств того, что алгоритмы, разработанные для максимизации вовлеченности в социальных сетях (что приносит пользу платформам), вознаграждают быстрые эмоции и наказывают более трудоемкие человеческие реакции, такие как усилия, необходимые для понимания и мышления. Группируя людей в «пузыри» легкого консенсуса и умеренного возмущения, эти алгоритмы уменьшают нашу способность слушать и критически мыслить и усугубляют социальную поляризацию.«
Уделяла внимание и проблеме зависимости от искусственного интеллекта. В послании раскрывается его связь с упадком человеческих способностей.
«Ситуация еще больше усугубляется наивной и безоговорочной опорой на искусственный интеллект как на «друга», который знает все, на источник всех знаний, хранилище всех воспоминаний, «оракул» всех советов. Все это может еще больше подорвать нашу способность мыслить аналитически и творчески, понимать смысл и распознавать синтаксис и семантику. Хотя искусственный интеллект может оказывать поддержку и помощь в решении задач, связанных с общением, в конечном итоге отказ от попыток думать самостоятельно и полагаться на искусственные статистические данные угрожает ухудшить наши когнитивные, эмоциональные и коммуникативные навыки.«
Слова в названии относятся к «творчеству» в области искусственного интеллекта. Генерация контента проникла практически во все творческие индустрии. Папа призывает к осторожности.
«В последние годы системы искусственного интеллекта все чаще берут под контроль производство текста, музыки и видео. Это ставит значительную часть человеческой творческой индустрии под угрозу демонтажа и замены ярлыком «На основе искусственного интеллекта», превращая людей в пассивных потребителей бездумных мыслей и анонимных продуктов без собственности и любви. Тем временем шедевры человеческого гения в музыке, искусстве и литературе сводятся к простым тренировочным площадкам для машин.«
В довольно обширном послании Лев XIV затронул также мошенническую гуманизацию искусственного интеллекта, влияние на выборы, дезинформацию и искажение реальности, возникающие в результате этих процессов.
