Исследователи из Google Research анонсировали новый алгоритм сжатия памяти для искусственного интеллекта под названием TurboQuant. Технология теперь получила название «Крысолов» в честь вымышленного стартапа из сериала «Силиконовая долина». Это сравнение не возникает на пустом месте. В культовом сериале HBO, транслировавшемся с 2014 по 2019 год, компания Pied Piper разработала революционный алгоритм сжатия данных.
TurboQuant от Google фокусируется на максимальном сжатии без потери качества, но применяется и к ключевому узкому месту в системах искусственного интеллекта — рабочей памяти.
Как описывают эту технологию эксперты Google Research, это новый способ уменьшить «рабочую память» ИИ (КВ-кэш), без потери производительности. В методе используется векторное квантование для устранения узких мест в кэше, что, по словам исследователей, позволит ИИ запоминать больше информации, занимая при этом меньше места и сохраняя точность.
Полные результаты работы будут представлены на конференции ICLR 2026 в апреле. TurboQuant основан на двух методах: алгоритме квантования PolarQuant и методе обучения и оптимизации QJL. Практическая польза от внедрения этой технологии может быть значительной. По данным Google, TurboQuant способен сократить объем рабочей памяти, необходимой для ИИ, как минимум в 6 раз во время «вывода» — этапа использования уже обученной модели. Это может значительно удешевить использование услуг искусственного интеллекта.
Некоторые представители отрасли, такие как генеральный директор Cloudflare Мэтью Принс, уже сравнивают этот прорыв с успехом китайской модели DeepSeek, которая достигла конкурентоспособных результатов при значительно меньших затратах на обучение.
Однако важно отметить, что TurboQuant все еще является лабораторной разработкой и еще не доступен для широкого использования. Более того, алгоритм решает проблему памяти только на этапе использования моделей ИИ, а не на этапе их обучения, для которого по-прежнему требуются огромные объемы оперативной памяти.
В этом году гонка за эффективность ИИ выходит на новый уровень. Если TurboQuant оправдает ожидания в реальных условиях, он может стать важным шагом на пути к демократизации мощных моделей искусственного интеллекта, сделав их использование более доступным. Однако, как и в случае с «Крысоловом» Кремниевой долины, путь от лабораторного прорыва к широкому внедрению часто сопряжен с неожиданными трудностями.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.

