Google présente TurboQuant pour alléger ses modèles d'IA

Faire tourner un LLM en local est à la fois sécurisé et pratique, mais cela demande beaucoup de ressources. Google affirme avoir trouvé une solution pour réduire fortement leur taille, tout en les rendant plus rapides et sans perdre en performance.

Google présente TurboQuant pour alléger ses modèles d'IA

Les intelligences artificielles ont un problème de mémoire. Pas au sens figuré, au sens littéral. Plus vous leur parlez longtemps, plus elles doivent retenir d’informations, et plus elles consomment de ressources. Résultat, faire tourner un modèle puissant sur un ordinateur ordinaire devient vite impossible. Google Research vient de publier une solution baptisée TurboQuant, et les chiffres sont impressionnants.

L’algorithme réduit la quantité de mémoire utilisée par un modèle d’au moins six fois, tout en le rendant jusqu’à huit fois plus rapide. Le plus surprenant, c'est que cette compression extrême ne dégrade pas les réponses. Dans les tests menés sur plusieurs modèles populaires, les résultats sont identiques à ceux d’un modèle non compressé.

Comment est-ce possible ? TurboQuant change la façon dont les données sont représentées en mémoire. Plutôt que de stocker chaque information avec une grande précision numérique, il trouve une façon plus compacte de l’écrire, un peu comme une formule mathématique. Et grâce à une seconde étape qui corrige les petites erreurs introduites par cette simplification, la qualité finale est préservée. Tout cela sans avoir besoin de ré-entraîner le modèle au préalable.

• Quand Apple veut distiller Gemini de Google pour son Siri

Les conséquences pratiques sont directes. Des conversations plus longues sur smartphone sans ralentissement, des résumés de documents entiers en une fois, des assistants IA qui fonctionnent sur du matériel grand public plutôt que sur des serveurs géants. Pour les entreprises, cela signifie aussi des coûts d’infrastructure réduits.

C’est aussi une bonne nouvelle pour Apple, qui privilégie la sécurité de ses utilisateurs en favorisant les IA fonctionnant directement en local sur ses appareils, dont l’iPhone, l’iPad et le Mac. Le partenariat avec Google Gemini pourrait en bénéficier directement, pourquoi pas avec iOS 27 en juin.

TurboQuant a été présenté à la conférence ICLR 2026 et les articles scientifiques sont accessibles publiquement. Google n’a pas encore publié le code, mais la communauté des développeurs devrait s’en inspirer rapidement pour l’intégrer dans les outils existants.

Introducing TurboQuant: Our new compression algorithm that reduces LLM key-value cache memory by at least 6x and delivers up to 8x speedup, all with zero accuracy loss, redefining AI efficiency. Read the blog to learn how it achieves these results: https://t.co/CDSQ8HpZoc pic.twitter.com/9SJeMqCMlN

— Google Research (@GoogleResearch) March 24, 2026