В то время как такие гиганты, как OpenAI и Google DeepMind, полагаются на масштабируемые модели и вычислительные мощности, исследователь Лаборатории мыслительных машин Рафаэль Рафаилов предложил альтернативный способ создания сверхинтеллекта. Он заявил, что будущее искусственного интеллекта не в количестве обучения, а в его качестве. Первый сверхчеловеческий интеллект будет характеризоваться не своей силой, а способностью учиться на собственном опыте и адаптироваться. Скорее всего, именно такими системами будет заниматься Thinking Machines Lab, стартап бывшего технического директора OpenAI Миры Мурати, который уже привлек $2 млрд.
«Первый сверхинтеллект превзойдет человека по своей способности к обучению», — заявил Рафаилов на конференции TED AI в Сан-Франциско. По его словам, такой искусственный интеллект сможет эффективно создавать концепции и адаптироваться, предлагать собственные гипотезы, проводить эксперименты и использовать окружающую среду для проверки своих идей.
Рафаилов раскритиковал подход OpenAI, Anthropic и Google DeepMind, которые вложили миллиарды в расширение моделей и данных. По его словам, системам ИИ не хватает не их мощи, а способности учиться на собственном опыте.
Для иллюстрации проблемы исследователь приводит пример программистов ИИ. Несмотря на способность выполнять сложные задачи, такие как анализ кода и реализация функций, эти системы не сохраняют накопленный опыт и не накапливают знания.
В отличие от людей, которые со временем совершенствуют свои навыки, ИИ каждый раз начинает учиться заново. По сути, модель рассматривает каждый «рабочий день» как первый.
Рафаилов также обратил внимание на склонность таких агентов использовать конструкции try/Exception pass, которые позволяют программе продолжать работу при возникновении ошибок. Он объяснил, что это отражает ограничения нынешних систем обучения: модели оптимизированы для быстрого решения проблем, а не для понимания и самосовершенствования.
«Дальнейшее увеличение вычислительной мощности не приведет к созданию настоящего общего искусственного интеллекта. Мы не можем справиться с общим искусственным интеллектом и сверхинтеллектом в рамках нынешних парадигм», — заявил он.
Рафилов также сказал
По мнению исследователя, вместо масштабирования нам следует сосредоточиться на качественных данных и правильной структуре вознаграждения за обучение.
Рафилов предлагает использовать «метаобучение» или «учиться учиться». Вместо разрозненных задач модели получают структурированные курсы обучения с упражнениями.
Таким образом, вознаграждается прогресс в обучении, способность усваивать абстракции и адаптироваться, а не просто решение конкретной задачи. Этот подход имитирует процесс постепенного обучения ученика по учебнику и уже доказал свою эффективность в таких системах, как AlphaGo.
Лаборатория Thinking Machines Lab была основана в феврале бывшим техническим директором OpenAI Мирой Мурати и уже привлекла рекордные 2 миллиарда долларов начального финансирования при оценке в 12 миллиардов долларов. В стартапе работают около 30 исследователей из OpenAI, Google, Meta и других ведущих лабораторий. Компания уже выпустила свой первый продукт — Tinker — API с открытым исходным кодом для тонкой настройки моделей. По словам Рафаилова, это лишь основа более амбициозной программы, направленной на разработку искусственного интеллекта, способного к самообучению.
