Бывший генеральный директор Google Эрик Шмидт обеспокоен уязвимостью систем искусственного интеллекта, которые, по его мнению, можно взломать и превратить в инструменты разрушения. Во время дискуссии на саммите Просеянный саммитШмидт отметил, что в чужих руках ИИ может научиться «убивать».
Он пояснил, что эксперты уже доказали, что некоторые модели — открытые или закрытые — можно окружить. Посредством покорных команд, скрытых в обычных текстах, веб-страницах или документах, хакеры могут заставить искусственный интеллект выполнять действия, для которых он не был создан — от раскрытия личной информации до выполнения потенциально опасных операций. В некоторых случаях системы могут быть введены в заблуждение, игнорируя собственные протоколы безопасности и генерируя откровенно вредный контент.
«У нас пока нет эффективного механизма контроля, что-то вроде режима нераспространения ядерного оружия», — признал Шмидт. По его словам, именно отсутствие такого нормативного подхода делает искусственный интеллект одной из самых серьезных угроз современности.
Однако бывший руководитель Google сохраняет умеренный оптимизм. По его словам, у ИИ есть потенциал изменить мир к лучшему, но его необходимо использовать разумно и под контролем. Шмидт убежден, что нынешний бум в этом секторе не закончится крахом, подобным раздуванию доткомов в начале века.
«Я не думаю, что мы увидим повторение того, что произошло в 2000 году», — сказал он. «Инвесторы, которые вкладывают свои средства сегодня, верят, что доход в долгосрочной перспективе будет исключительным. Иначе зачем им так рисковать?»
Таким образом, в то время как некоторые видят новую эру инноваций в искусственном интеллекте, другие, в том числе Эрик Шмидт, напоминают, что каждая революционная технология несет в себе и свои темные стороны.
