Что произойдет, когда компьютеры превзойдут людей?

Предсказания футуриста Рэя Курцвейла об искусственном интеллекте сегодня кажутся поразительно знакомыми. Он задал важные вопросы еще в 1991 году – 35 лет спустя у нас есть ответы.

Когда искусственный интеллект (ИИ) еще изучался в исследовательских лабораториях, Рэй Курцвейл был разочарован тем, насколько узко он воспринимался. Сегодня его предсказания сбылись, но их еще много»темные стороны«, который нам еще предстоит изучить, — пишет Techradar.

В интервью Computerworld 1991 года Курцвейл утверждал, что ожидания общественности были искажены не неудачами, а знакомством с технологией: «Когда люди говорят об искусственном интеллекте, они обычно имеют в виду только экспертные системы, но это лишь малая часть. К концу этого десятилетия большая часть программного обеспечения будет интеллектуальной, но не обязательно с искусственным интеллектом.«

Спустя более 30 лет распознавание изображений, преобразование речи в текст, системы рекомендаций и автоматизированное принятие решений стали повсеместными, но эти технологии редко считаются искусственным интеллектом. Это обозначение просто сводится к таким проектам, как ChatGPT и Google Gemini.

На момент интервью Computerworld Курцвейл уже был глубоко вовлечен в коммерческую сторону искусственного интеллекта, основав несколько компаний, специализирующихся на распознавании изображений, синтезе музыки и распознавании речи. Когда его спросили, удивлен ли он тем, как развивались компьютерные системы, он ответил: «Я не особенно удивлён. Я всегда считал, что цифровая информация может охватывать множество типов явлений: от звука, речи и музыки до изображений и трехмерных объектов. Почти все можно оцифровать. Даже наш генетический код можно оцифровать.«

Когда его прямо спросили, как он определяет искусственный интеллект, Курцвейл избежал научно-фантастических клише того времени, объяснив: «ИИ — это искусство создания машин, выполняющих функции, связанные с человеческим интеллектом. Интеллект — это способность эффективно использовать ограниченные ресурсы, используя абстрактное мышление, способность распознавать закономерности и способность решать проблемы за ограниченный промежуток времени.«

Современные системы машинного обучения почти полностью построены на этом предположении. Они не рассуждают так, как любят думать люди, но преуспевают в распознавании закономерностей в огромных объемах данных — той самой когнитивной функции, которую Курцвейл определил как доминирующую 35 лет назад.

В интервью его спросили о текущем состоянии развития искусственного интеллекта. Его ответ был показательным: «Мы создаем системы, которые могут имитировать человеческий интеллект в узкой области. Они диагностируют ограниченный спектр заболеваний, играют в шахматы, принимают финансовые решения и направляют ракету на здание.«

Ограничение, объясняет он, кроется в контексте: «Эти системы снова становятся идиотами, когда выходят за пределы своей области знаний. По мере развития ИИ мы пытаемся расширить область машинного познания, объединяя различные системы ИИ, такие как распознавание речи, понимание естественного языка и возможности принятия решений в конкретной области.«

Computerworld спросил Рэя, каким он видит будущее, и он ответил: «Вопрос в том, что на самом деле произойдет, когда компьютеры смогут конкурировать с человеческим интеллектом или превзойти его? Как только компьютер сможет имитировать основные человеческие функции, он сможет сочетать это с огромным совершенством, которое он уже демонстрирует в своей способности запоминать миллиарды или триллионы фактов с чрезвычайной точностью, получать доступ к этой информации на невероятно высоких скоростях и выполнять эти функции снова и снова очень быстро.«

Затем он отмечает: «Если он умеет читать книгу, ничто не помешает ему прочитать каждую книгу, каждый журнал и техническую публикацию, когда-либо опубликованную, и овладеть всеми человеческими знаниями. Достигнув равенства с человеческим интеллектом в одних областях, он неизбежно значительно превзойдет его в других.».

Курцвейл завершил эту мысль комментарием, который сегодня особенно актуален: «Последствия этого трудно понять. Большая часть нашей гордости проистекает из нашей веры в наше интеллектуальное превосходство.«

Один из самых философски сложных вопросов в интервью возник, когда его спросили, может ли машина когда-либо обладать сознанием. «Ключевым вопросом является вопрос о сознании и о том, что значит быть живым, сознательным существом, а также о том, обладает ли сознанием машина, которая, кажется, имитирует функции, подобные человеческим.«— говорит он».Возможно, лучший способ понять парадоксы, с которыми мы сталкиваемся в этом вопросе, — это рассмотреть следующий сценарий: в конечном итоге мы сможем сканировать человека, и компьютер запомнит точную структуру всех наших нейронов и других клеток. Затем мы можем представить себе создание нового компьютера, который будет подключен точно так же, как человек, которого только что отсканировали.«

Курцвейл не пытался решить проблему сознания как инженерную проблему. Он переосмыслил это как вопрос идентичности. Если система выглядит, говорит и помнит точно так же, как человек, то вопрос сознания перестает быть техническим и становится философским: «Если вы встретите этот компьютер, он будет очень похож на того же человека. Тогда возникает вопрос: это тот же самый человек? Этот компьютер сознателен? Вы можете сказать «да», потому что вы бы почувствовали его мысли, если бы взяли у него интервью. Дело в том, что не существует научного эксперимента, который мог бы определить, обладает ли сознанием какое-либо другое существо — животное, машина или человек.«

Сегодня, когда системы искусственного интеллекта создают язык, описывающий эмоции, идентичность и самосознание, формулировка Курцвейла кажется менее гипотетической и более неуклюжей. Он, конечно, не утверждал, что машины будут обладать сознанием, а только то, что у людей нет надежного способа отрицать это, когда такое поведение становится непреодолимым. Эта неуверенность проявилась в реальной жизни в 2022 году, когда инженер Google Блейк Лемуан убедился в разумности системы LaMDA, поделился своими утверждениями с The Washington Post и был тут же уволен.

Интервью 1991 года также затронуло обеспокоенность общественности по поводу автоматизации и работы, которая сегодня является основной темой.

Курцвейл говорит: «Это окажет глубокое влияние на общество и роль, которую играют люди. Хотя компьютеры, автоматизация и машины все больше способны выполнять функции, которые могут выполнять люди, занятость людей резко возросла. Сто лет назад у нас было 12 миллионов рабочих мест, которые занимали 30% населения, а сейчас их более 120 миллионов, которые занимают 50% населения. Более того, сложность этих работ возросла, а зарплаты в постоянных долларах выросли в шесть раз. Но остается вопрос: что люди будут делать в 2050 году, учитывая огромный интеллектуальный потенциал, которым, вероятно, будут обладать компьютеры?«

Курцвейл не попытался ответить на свой вопрос, а намеренно оставил его открытым.

Сегодня, в семьдесят лет, Рэй работает в Google, и его часто называют «духовный отец искусственного интеллектаМногие идеи, лежащие в основе современного машинного обучения, перекликаются с аргументами, изложенными им в 1991 году. Тридцать пять лет спустя мы гораздо ближе к описанному им будущему, но не ближе к ответу на вопрос, который он оставил без ответа.