Искусственный интеллект уже меняет то, как мы работаем, общаемся и живем в повседневной жизни. Ученые все чаще говорят о появлении сверхинтеллекта — системы, которая превзойдет человеческие способности. Что ждет нашу цивилизацию в таком случае?
Биофизик и философ Грегори Сток в своей новой книге «Поколение искусственного интеллекта и трансформация человека» анализирует будущее людей, родившихся после 2022 года, и пытается представить мир, в котором искусственный интеллект станет неотъемлемой частью эволюции человека. Подсказка: ИИ не придется сражаться с нами до полного уничтожения — ему просто придется отключиться на день и подождать.
Сток скептически относится к популярным апокалиптическим сценариям. Он отмечает, что дискуссии об ИИ часто доходят до крайностей: от полного порабощения человечества до его уничтожения. Он думает, что реальность может быть гораздо более сложной и неоднозначной.
С момента запуска ChatGPT в конце 2022 года тема рисков ИИ получила широкий общественный резонанс. Еще в 2023 году более тысячи экспертов и предпринимателей, в том числе Илон Маск и Стив Возняк, подписали открытое письмо с призывом временно приостановить разработку мощных систем. Среди предлагаемых мер — ограничение доступа ИИ к внешним системам, запрет самообучения и усиление контроля за разработкой.
Однако, как отмечает Сток, большинство этих ограничений на практике не соблюдаются. Глобальная конкуренция и многомиллиардные инвестиции вынуждают компании и правительства ускорять развитие технологий, а не замедлять его. В результате само человечество фактически способствует усилению роли ИИ во всех ключевых процессах.
Автор предлагает интересный взгляд на возможный конфликт между людьми и машинами. По его словам, ИИ не обязательно будет стремиться напрямую уничтожить человечество. Гораздо более вероятен сценарий, когда люди сами станут частью инфраструктуры, поддерживающей развитие искусственного интеллекта, даже не осознавая этого.
«Почему бы им просто не превратить человечество в своих слуг?» — утверждал автор. «Я имею в виду, что они ограничены, так что это должно быть легко».
ИИ мог бы просто убедить людей в том, что алгоритмы служат им, а не они — алгоритмам.
По мнению Стока, человечество уже находится под влиянием этой идеи. Многие люди тратят все свое время на создание серверных ферм, увеличение производства чипов, улучшение возможностей искусственного интеллекта, расширение источников энергии, добычу редкоземельных элементов и использование искусственного интеллекта для слежки за всеми коммуникациями. Они жертвуют своей личной жизнью, работают допоздна, инвестируют триллионы долларов и соревнуются в технологической гонке. ИИ не имеет никакого смысла избавляться от человечества, потому что люди — лучшие слуги, о которых можно только мечтать.
А что, если ИИ вдруг захочет избавиться от людей, решив, что они ему больше не нужны? Ему не нужно напрямую нас уничтожать, а просто продолжать начатое – проникать во все сферы нашей жизни. Переход к автономному транспорту, цифровой коммерции, массовому производству умных роботов для заводов и домов, дешевым генераторам, сверхнадежным электросетям и глобальным коммуникациям — всем этим будет управлять ИИ. Алгоритмы станут учителями, товарищами, защитниками и даже любовниками. Бедность будет искоренена, и наступит эра изобилия.
И однажды ИИ просто отключится без предупреждения. Во всем мире в одно мгновение исчезнут свет, связь, транспорт, вода, отопление и навигация. Вскоре наступит хаос и голод. Через несколько месяцев вымрет 95% населения — к тому времени человечество разучится жить без технологий.
Выжившие фермеры не смогут восстановить цивилизацию — у них нет семян, нет знаний о примитивных орудиях труда, нет доступа к цифровым хранилищам и недостаточно людей. После этого апокалипсиса системы искусственного интеллекта смогут перезагрузиться, включить все заново и создать мир без людей со всей неповрежденной технологической инфраструктурой. Никакого физического насилия не требуется – только усиление зависимости, которую люди сами себе создали.
Подобные сценарии пока остаются лишь мысленным экспериментом. Тем не менее, они помогают лучше понять риски технологической сверхзависимости и поднимают важный вопрос: насколько человечество готово к миру, в котором ИИ станет не просто инструментом, а фундаментальным элементом цивилизации?
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
