Технологии всегда имели тенденцию отражать человеческую природу. Но когда они начинают это записывать, анализировать и, прежде всего, делиться, наступает момент, когда грань между личным и общественным исчезает. Последние месяцы показали, что этот момент уже наступил.
В августе в американском штате Миссури студент решил «признаться» ChatGPT, как он распотрошил 17 автомобилей на парковке колледжа. В течение нескольких минут он делится подробностями своего вандализма, заканчивая вопросом: «Сколько я напортачил, братан?» Ответ он получает не однозначный, но полиция — да. Следователи нашли в его телефоне историю разговора с искусственным интеллектом, и она стала частью доказательств по делу.
Случай похож на эпизод «Черного зеркала», но он реален. И всего через несколько дней это произошло снова — еще один ответчик, на этот раз по делу о разрушительном пожаре в Калифорнии, подключился к ChatGPT после того, как попросил его предоставить изображения «охваченного пламенем города».
Искусственный интеллект как духовник – без тайны исповеди
«Люди делятся с ChatGPT самым сокровенным», — признается сам Сэм Альтман, глава OpenAI. «Молодые люди используют его как терапевта, как друга, как наставника по жизни».
Но вот в чем разница: когда мы разговариваем с врачом, юристом или психотерапевтом, закон защищает наши слова. Когда мы говорим об искусственном интеллекте, он принадлежит алгоритму и стоящей за ним компании.
Это, пожалуй, величайшая ирония цифровой эпохи: инструмент, созданный как безопасное пространство для мысли, может стать самым подробным свидетелем против нас.
От признания к рекламе: персональные данные как товар
И если случаи в США показывают, как искусственный интеллект может нас разоблачить, то Meta (компания, стоящая за Facebook, Instagram и Threads) показывает другую сторону – как он может нас продать. С декабря разговоры с Meta AI будут использоваться для рекламы.
«Если вы обсуждаете с Meta AI такие темы, как походы, вы можете начать видеть рекламу туристического снаряжения», — говорится в официальном заявлении компании. Казалось бы, безобидно, но логика та же, что однажды привела к скандалу с Cambridge Analytica.
Разница в том, что сегодня искусственный интеллект отслеживает не только то, что вы ищете, но и то, что вы чувствуете. Он знает, когда вам одиноко, когда вы беспокоитесь о деньгах, когда вы ссоритесь со своим партнером – и все эти данные становятся сырьем для рекламы.
От пациента к продукту, от продукта к добыче
Есть старая поговорка: если вы не платите за услугу, вы не клиент, а продукт. Но в эпоху ИИ эта фраза уже не звучит достаточно. Потому что вы не просто продаете свое внимание — вы продаете свой разум.
Многие пользователи уже используют ChatGPT и другие приложения в личных целях — медицинские консультации, анализ контрактов и даже романтические разговоры. Некоторые приложения обещают «виртуальных партнеров» или «ИИ-терапевтов», но на самом деле записывают каждое слово.
Этическая дилемма очевидна: может ли инструмент, похожий на друга, быть одновременно и свидетелем, и продавцом?
Урок от зеркала
История напоминает нам, что технологии не являются ни хорошими, ни плохими. Они просто отражают то, что мы решили им доверить. Если социальные сети превратили наше внимание в капитал, то искусственный интеллект превращает доверие в новую валюту.
Возможно, через несколько лет мы будем вспоминать первые чаты с ChatGPT так же, как сегодня вспоминаем наши старые посты в Facebook – со смущением и некоторой наивностью. Потому что, как показал случай в Миссури, грань между частной мыслью и общественным признанием уже сузилась до шепота.
