La puce M5 surclasse nettement la M4 dans l’exécution locale de LLM
- 👨 Alexandre Godard
- Il y a 1 heure (Màj il y a 31 min)
- 💬 Réagir
La puce M5 d’Apple surclasse nettement la M4 pour l’exécution locale des modèles de langage
Apple a publié de nouveaux chiffres qui comparent les performances de la puce M5 à celles de la M4 pour l’exécution locale de modèles de langage via son framework MLX. Le verdict est clair : la M5 offre des gains de vitesse significatifs, en particulier pour la génération de texte et d’images directement sur l’appareil.
Selon Apple, MLX permet de faire tourner en local des modèles issus de plateformes comme Hugging Face grâce à des techniques de quantification. Cette approche réduit la taille des modèles pour accélérer leur exécution tout en limitant la consommation de mémoire. Les tests montrent que la M5 profite pleinement de cette optimisation.
L’un des points forts de la M5 est la présence d’accélérateurs neuronaux intégrés au GPU. Ces unités spécialisées sont conçues pour les opérations de calcul intensif nécessaires aux modèles de langage, notamment les multiplications matricielles. Combinées à une bande passante mémoire plus élevée que celle de la M4, elles offrent un avantage matériel évident.
Dans les essais réalisés par Apple, la M5 du MacBook Pro génère le premier token plus rapidement que la M4 et se montre entre 19 % et 27 % plus rapide pour la génération de texte sur 128 tokens. Sur les tâches de création d’images, l’écart est encore plus impressionnant, avec une accélération pouvant atteindre un facteur de 3,8.
Ces résultats confirment la stratégie d’Apple, qui mise de plus en plus sur l’IA en local. Grâce à la puissance de la M5, les utilisateurs peuvent exécuter des modèles plus lourds directement sur leur Mac, avec moins de latence et sans dépendre du cloud.