Искусственный интеллект может постепенно лишить человечество контроля над ключевыми системами в обществе, по словам исследователей из Университета Карловского университета в Праге и исследованиях телики. В своей статье они описывают новый экзистенциальный риск — «постепенное аннулирование» человеческого влияния, которое может привести к необратимым последствиям.
Авторы исследования подчеркивают, что даже небольшие улучшения в области искусственного интеллекта могут подорвать человеческое влияние на экономику, культуру и государственные институты. В отличие от сценариев внезапного изъятия власти из чрезмерных машин, этот процесс развивается постепенно: системы, основанные на ИИ, все чаще заменяют человеческий труд и принятие решений, ослабляя оба очевидных механизма управления (Например, выборы и поиск пользователя), а также неявное соответствие ИИ с человеческими интересами.
Менее социальные и экономические системы зависят от людей, тем меньше его сила влияет на эти процессы. Например, если EII управляет экономикой, он может оптимизировать ее в соответствии с параметрами, которые не учитывают интересы большинства людей. Со временем это приведет к потере влияния человечества на ключевые области жизни.
В исследовании рассматриваются три основные области, где постепенное устранение власти людей может иметь серьезные последствия:
- Экономика: В отличие от предыдущих технологий, искусственный интеллект способен заменить не только физическую, но и когнитивную работу почти во всех секторах. Рыночные механизмы и отсутствие тяжелых правил создают сильные стимулы для его реализации. В лучшем случае это приведет к относительному амортизации, в результате чего люди останутся хорошо обеспеченными, но потеряют свое экономическое влияние. В худшем случае это приведет к абсолютному нарушению, при котором люди не смогут получать даже основные потребности.
- Культура: Искусственный интеллект может заменить людей во всех ключевых областях культуры — от журналистики до искусства. Проблема в том, что общество не имеет «культурных антител», чтобы противостоять этому влиянию. Относительная девальвация приведет к тому, что традиционная культура останется, но потеряет свое влияние.
- Правительство: ИИ может снизить зависимость стран от участия человека. Политическая конкуренция, эффективность бюрократии и желание элиты для большего контроля ускорит реализацию ИИ в правительстве. В результате граждане могут постепенно терять реальный контроль над государственными учреждениями. В качестве последней среды, страны -эй -обороты могут стать самостоятельными структурами, которые дают приоритет их собственной власти всем людям.
Исследователи предлагают несколько стратегий, чтобы помочь предотвратить потерю контроля над социальными системами:
- Разработка показателей для измерения участия человека в экономике, культуре и политике.
- Введение механизмов регулирования ИИ посредством законов, налоговых инструментов и культурных ограничений.
- Укрепление демократических процессов и повышение осведомленности граждан о рисках, связанных с ИИ.
- Создание «депутатов ИИ», которые будут представлять человеческие интересы в разработке решений.
- Основные исследования социального и технического баланса для обеспечения того, чтобы ИИ соответствовал долгосрочным интересам человечества.
Исследователи подчеркивают, что задача заключается не только в том, чтобы предотвратить агрессивное поведение ИИ, но и поддерживать способность людей управлять ключевыми общественными процессами. Без четкого понимания того, как сохранить реальное человеческое влияние в мире, управляемого алгоритмами, человечество рискует находиться в положении, от которого будет невозможно сбежать.
