AGI появится в 2026 или 2035 году, или никогда. Это зависит от того, кого вы спросите – и сколько инвестиций привлекли.
«Мы обязательно построим бункер, прежде чем запустим AGI»
— Эту фразу приписывают одному из лидеров Кремниевой долины, хотя неясно, кого именно он имел в виду под «мы».
Эта фраза хорошо отражает парадокс времени: многие из тех, кто активно продвигает искусственный интеллект к новым границам, в то же время опасаются, чем может стать эта технология.
Когда появится AGI – искусственный интеллект общего назначения, сравнимый с человеческим интеллектом по широте навыков? Оптимисты уверяют нас, что это произойдет в ближайшее время. Генеральный директор ОПЕНАЙ Сэм Альтман В декабре 2024 года он заявил, что это произойдет «а не то, что думает большинство людей». Соучредитель Глубокий разум сэр Демис Хасабис Определяет горизонт от пяти до десяти лет. Основатель Антропный Дарио Амодей Он предпочитает говорить о «мощном ИИ» и допускает это еще в 2026 году. Скептики возражают, что «планка постоянно движется»: по словам профессора Саутгемптонского университета Дам Венди Холл Все зависит от того, кого вы спрашиваетеС
Технология впечатляет, но до человеческого интеллекта ей еще очень далеко. Бабак идиТехнический директор Cowlant согласен: Во-первых, нам нужно совершить несколько фундаментальных прорывов. И не стоит ожидать «мгновенного» рождения AGI — это дело не одного дня, а большого пути, по которому движутся десятки компаний с разными вариантами подходов.
Частично энтузиазм подпитывается идеей следующего шага — ИСИ, сверхразума, превосходящего человеческий. Еще в 1958 году американский математик венгерского происхождения Джон фон Нейман предложил первую формулировку «Сингулярность» — момент, когда темпы и характер развития компьютеров ускользают от человеческого пониманияS В книге «Генезис» 2024 года Эрик Шмидт, Крейг Манди и покойный Генри Киссинджер размышляют о сверхмощной технологии, которая принимает решения и управляет настолько эффективно, что люди постепенно передают ей контроль. По их логике, вопрос не в том, «будут ли», а в том «когда».
Сторонники рисуют захватывающую картину. Считается, что AGI поможет найти лекарства от смертельных болезней, преодолеть климатический кризис и обнаружить практически неисчерпаемые источники чистой энергии. Илан Маск говорит о возможной эпохе «всеобщего высокого дохода», когда ИИ станет настолько доступным, что у каждого будут «собственные R2-D2 и C-3PO». По его мнению, каждый будет иметь доступ к лучшей медицине, жилью, транспорту и устойчивому изобилию.
Но у этой мечты есть обратная сторонаS Может ли такая система быть защищена от злоупотреблений со стороны террористов или от убеждения, что самая большая проблема на планете — это мы сами? Тим Бернерс-Ли, создатель Всемирной паутины, предупреждает: если машина умнее человека, ее нужно уметь освоить и при необходимости «выключить».
Страны пытаются построить защитные барьеры. В США в 2023 году исполнительный приказ требовал от некоторых компаний делиться с властями результатами тестов безопасности, хотя некоторые положения впоследствии были смягчены как «отталкивающие инновации». В Великобритании два года назад появился Государственный институт безопасности искусственного интеллекта, изучающий риски, связанные со сложными моделями.
На этом фоне сверхбогатые обсуждают «страховку от апокалипсиса» — от домов конца света до частных приютов, хотя человеческий фактор и здесь все переворачивает с ног на голову.
Есть также те, кто считает, что вся дискуссия — фейк.Профессор Южного Кембриджа Нил Лоуренс называет идею AGI такой же нелепой, как и «искусственное универсальное транспортное средство». Транспорт, который вам нужен, всегда зависит от конкретного контекста: прилететь в Кению на самолете, доехать на машине до университета, дойти до столовой пешком. Во всех случаях не будет одной машины — почему ИИ должен ожидать обратного? По его словам, разговоры об AGI отвлекают внимание от реальных перемен, которые уже происходят: впервые обычные люди могут поговорить с машиной и понять, что они на самом деле имеют в виду. Это уже чрезвычайно большое достижение, которое уже меняет жизнь, к которой мы привыкли, а это значит, что усилия должны быть сосредоточены на том, чтобы технологии работали на благо пользователей.
Нынешние системы обучаются на гигантских массивах данных и превосходно распознают модели — от раковых маркеров на сканах до вероятного следующего слова в предложении. Но они «ничего не чувствуют», как бы убедительно ни звучали их ответы. По словам Бабака, существуют «умные» способы заставить большие языковые модели создавать впечатление памяти и обучения, но эти приемы далеки от человеческого уровня. Исполнительный директор IV.AI Винс Линч предупреждает: Громкие заявления об AGI — отличный маркетинг. Если вы создадите «самую умную вещь на свете», к вам потекут реки денег. На практике дорога не измеряется двумя годами – она требует огромных вычислительных мощностей, большого человеческого творчества и бесконечных усилий, наполненных человеческими ошибками.
Однако в некоторых отношениях машины уже опережают нас по широте применения. Генеративный искусственный интеллект может на мгновение перейти от средневековой истории к сложным уравнениям. Даже разработчики не всегда понимают, почему модель реагирует именно так, а некоторые компании демонстрируют признаки самосовершенствования своих систем.
Биология еще впереди: в человеческом мозге около 86 миллиардов нейронов и около 600 триллионов синапсов — несравнимо больше, чем в искусственных архитектурах. Мозгу не нужны паузы между взаимодействиями, он постоянно восстанавливает картину мира. Если человеку сказать, что открыта жизнь на экзопланете, он тут же встроит его в свою картину реальности. Языковая модель «знает» это лишь постольку, поскольку вы продолжаете повторять этот факт. В языковых моделях отсутствует метазнание – способность реализовывать собственные знания.S Этим владеют люди, и его часто описывают как сознаниеS Это фундаментальный элемент интеллекта, который еще не был воспроизведен в лабораторных условиях.
Чтобы напомнить вам, что AGI означает общий искусственный интеллект (Artificial General Intelligence). — Теоретический тип искусственного интеллекта, который будет обладать когнитивными способностями, подобными человеческим, и сможет понимать, изучать и применять интеллект в широком спектре задач, а не только в определенной области. Это включает в себя способность учиться на опыте, решать проблемы, рассуждать и понимать язык, а также иметь общий смысл и способность адаптироваться к новым ситуациям.
Ключевые особенности AGI включают следующее:
- Общие рассуждения и обучение: AGI может использовать знания, полученные в одной области, и применять их в другой, что позволяет ему адаптироваться к новым и незнакомым ситуациям.
- Общее значение: Он обладает обширными знаниями о мире, включая факты, связи и социальные нормы, которые помогают ему думать и принимать решения.
- Самообучение: Agi может самообучаться и решать проблемы, которые не были специально запрограммированы, что является ключевым отличием от нынешних систем с ограниченным искусственным интеллектом.
За громкими прогнозами и тревогами, похоже, скрывается простая истина: ИИ уже сегодня меняет повседневную жизнь и бизнес-процессы, а говорить о «настоящем» Аги удобно тем, кто собирает инвестиции или формирует новые программы. Вопрос о том, наступит ли и когда точка сингулярности, остается открытым. Но от качества инструментов, которые мы создаём сейчас, от их безопасности, прозрачности и полезности для людей зависит гораздо больше, чем от споров об разрознённости и датах.
