TurboQuant: новый подход к эффективности ИИ
Исследователи Google объявили о TurboQuant — алгоритме сверхкомпактного сжатия памяти для искусственного интеллекта. Сообщество в сети уже сравнивает его с Pied Piper из популярного сериала.
Эта отсылка ведёт к вымышленному стартапу из шоу "Кремниевая долина", выходившего с 2014 по 2019 год. Герои сериала боролись с конкурентами, искали инвестиции, решали технические задачи и даже блистали на вымышленной версии TechCrunch Disrupt.
Ключевой технологией Pied Piper стал алгоритм сжатия файлов почти без потери качества. Аналогично TurboQuant от Google Research фокусируется на экстремальном сжатии без ущерба для результатов, но решает узкое место в системах ИИ.
Как TurboQuant оптимизирует память ИИ
Разработчики позиционируют TurboQuant как способ уменьшить рабочую память ИИ, не затрагивая производительность. Алгоритм на базе векторной квантизации устраняет узкие места в кэше, позволяя моделям хранить больше данных в меньшем объёме с сохранением точности.
Результаты представят на конференции ICLR 2026. Два ключевых компонента — метод квантизации PolarQuant и подход к обучению и оптимизации QJL.
Математика за этим сложна для неспециалистов, но итоги впечатляют всю техноиндустрию. При внедрении TurboQuant сократит "рабочую память" ИИ — KV-кэш — минимум в 6 раз, сделав inference дешевле.
Сравнения с DeepSeek и ограничения
Некоторые эксперты, включая CEO Cloudflare Мэтью Принса, называют это "моментом DeepSeek" для Google. Китайская модель добилась высокой эффективности при низких затратах на обучение и слабом железе, оставаясь конкурентоспособной.
Однако TurboQuant пока остаётся лабораторной разработкой без широкого развёртывания. Сравнения с DeepSeek или Pied Piper условны: вымышленная технология меняла правила вычислений, а TurboQuant улучшает inference, но не устраняет дефицит RAM для обучения, где объёмы памяти огромны.