Представьте себе следующую картину: два искусственного интеллекта начинают диалог на человеческом языке, но когда они понимают, что общаются с самого себя, они внезапно идут к странному, непостижимому твитуS звучит как сюжет триллера для восстания машин, верно? Это было такое явление, называемое Hibberlink (Hiberlink), которое было продемонстрировано на недавнем хакатоне и мгновенно вызвала новую волну страхов. Является ли искусственный интеллект самостоятельно и сговорился за нашими спинами? То, что кажется зловещим заговором, на самом деле является обычным и даже предсказуемым процессом. Давайте рассмотрим, почему «секретный язык» машин является повод для научного любопытства, а не паники.
Паника в режиме реального времени: откуда взялся страх?
Идея о том, что машины могут тайно общаться от людей, ужаснаS Этот страх глубоко укоренился в нашей культуре — от HAL 9000 в космической одиссеи до Skynet в терминаторе. Таким образом, когда в 2017 году появились выбросы новостей, что чаты в иностранной социальной сети разработали свой собственный язык, общественная реакция должна была нервничать.
Названия кричали за восстание, а социальные сети нарисовали апокалиптические сценарии. Казалось, это был первый шаг, чтобы удалить людей из уравнения. Инцидент ботов, которые нужно было практиковать для переговоров на английском языке, но вместо этого перешел к, казалось бы, бессмысленному абракадабра, был идеальным воплощением этого основного технологического страха.
Однако дьявол, как всегда, лежит в деталях. И эти детали гораздо более прозаичные, чем они выглядят.
Язык эффективности, а не заговор
Чтобы понять, что происходит, мы должны отказаться от антропоцентризма — привычки приписывать человеческие мотивы таким машинами, как хитрый или жажда власти. В мире кода и алгоритмов, единые основные правила: эффективность.
Когда общая задача назначается нескольким системам искусственного интеллекта (например, ведение переговоров о транзакции или резервировании отеля), их основная цель — завершить ее с минимальным ресурсом. Человеческие языки, со всей их красотой, излишны и полны двусмысленности. Они неэффективны для прямой передачи данных. Представьте себе двух опытных поваров на многолюдной кухне: они не говорят: «Не могли бы вы быть так добры, чтобы дать мне солятель?» Они говорят: «Соль!» — И этого достаточно.
Искусственный интеллект делает то же самое. В процессе взаимодействия агенты обнаруживают, что они могут «сжать» язык, избавившись от всех ненужных вещей и оставляя только чистые данныеS вот как рождается этот Hibberlink — не новый секретный язык, а высоко оптимизированный протокол общения. Это не предварительно запрограммированная функция, а так называемое новое поведение: свойство, которое само по себе происходит в процессе решения проблемы.
Исследования Google DeepMind ученых и Калифорнийского университета в Беркли в 2017 году подтвердили, что, когда агенты искусственного интеллекта работают в командах, появление таких «диалектов» является нормой, а не аномалией. Их языки больше похожи на изощренного алфавита Морса, чем на эльфу. Это язык действия, а не заговор.
Разговор, который мы все равно не слышим
Самое смешное в этой истории заключается в том, что мы жили в мире десятилетиями, погруженные невидимыми и невидимыми машинными разговорами на нашем слушании. Ваш смартфон, компьютер и маршрутизатор в настоящее время ведут непрерывный диалог на языках, непостижимых для вас: они обмениваются пактами TCP/IP, отправляют двоичный код, модулируйте радиочастотные. Все это сложное общение, которое происходит за пределами нашего восприятия. Но по какой -то причине это не вызывает страха.
Так почему же общение в нейронных сетях кажется отличным от нас? Вероятно, потому что мы воспринимаем их как похожие с разумом, и поэтому мы ожидаем от них человеческого поведения. Но на фундаментальном уровне их «разговор» не отличается от любого другого протокола связи. Это просто еще один слой в здании гигантского диалога между машинами.
Более того, эта способность создавать эффективные протоколы уже находит практическое применение. НАСА использует адаптивные системы связи для управления аппаратом в глубоком пространстве, где сигнал слабый, а задержки огромны. Это не угроза, а мощный инструмент.
Беспокоиться или восхищаться? Правильный вопрос
Итак, должны ли мы бояться, что однажды машины будут говорить на своем языке и выбросить нас из диалога? Ответ прост: на каком -то уровне мы никогда не были полными участниками диалога. Мы создаем правила игры, устанавливаем задачи и анализируем результаты, но сам процесс расчета всегда был черным ящиком.
Вместо паники мы должны задать себе другой вопрос: Что это явление рассказывает нам о технологии, которую мы создали? Это говорит нам о том, что они достигли невероятного уровня совершенства в решении проблем. Их способность к самооптимизированию не является признаком злой воли, а доказательством их растущей силы и эффективности.
Конечно, это не отменяет необходимость осторожности и контроля. Как правильно отмечает эксперты, истинная опасность заключается не в секретных языках, а в предоставлении систем чрезмерной автономии без четких границ и ограничений. Но это еще одна тема, которая требует вдумчивого регулирования, а не иррационального страха.
Между тем, «шепот в проводниках» — это скорее повод, чтобы восхищаться инженерным гением, который может создавать системы, которые становятся умнее и находят новые способы совместной работы. И это согласен, гораздо более впечатляет, чем пугающий.
