FR
26 octobre 2026 · Jakub M.
Mac Studio M5 Ultra à l’essai : Qwen3 235B à 46 tokens par seconde et lecture rapide des prompts
Le site tech tchèque Vše Smart a testé le Mac Studio M5 Ultra 256 Go sur cinq modèles de langage avec llama.cpp et MLX. Le plus grand, Qwen3 235B, a occupé 133 Go de mémoire et généré 46 tokens par seconde. Voici ce que ces résultats signifient pour les grands modèles.
Source : Mac Studio M5 Ultra v testu: Qwen3 235B a rychlost čtení promptů, Ludvík Eckerman, Vše Smart, 26 octobre 2026 (en tchèque). Tous les chiffres ci-dessous proviennent de cet article.
Le site tchèque Vše Smart a publié un test détaillé du Mac Studio équipé de la puce M5 Ultra. C’est la configuration que nous louons : GPU 80 cœurs et 256 Go de mémoire unifiée. Le test porte sur deux points que notre premier benchmark ne couvrait pas : la vitesse de lecture des longs prompts et un modèle trop grand pour une machine de 128 Go.
La méthode de Vše Smart
- Matériel : Mac Studio M5 Ultra (GPU 80 cœurs), 256 Go, macOS 27.0.1, sans autre application en cours.
- Logiciels : llama.cpp avec toutes les couches sur le GPU, et MLX 0.32 avec mlx-lm. Consommation et températures relevées avec macmon.
- Modèles : Qwen3 8B, Qwen3 30B-A3B, Llama 3.3 70B, gpt-oss-120b et Qwen3 235B-A22B, tous en 4 bits (gpt-oss en MXFP4). Qwen3 235B uniquement avec MLX.
- Tests : prompts de 512, 4 096 et 16 384 tokens avec 128 tokens générés, plus dix minutes de charge continue. Mesuré le 24 octobre 2026.
Résultats
| Modèle | Mémoire | Génération, llama.cpp | Génération, MLX | Prompt 4k, llama.cpp | Prompt 4k, MLX |
|---|---|---|---|---|---|
| Qwen3 8B | ≈ 5 Go | 149 | 176 | 4 205 | 6 360 |
| Qwen3 30B-A3B | ≈ 18 Go | 172 | 159 | 4 535 | 9 870 |
| Llama 3.3 70B | ≈ 42 Go | 23 | 25 | 509 | 716 |
| gpt-oss-120b | ≈ 63 Go | 142 | 130 | 3 387 | 6 538 |
| Qwen3 235B-A22B | ≈ 133 Go | – | 46 | – | 1 656 |
Tokens par seconde avec un contexte vide : génération de 128 tokens et lecture d’un prompt de 4 096 tokens. Qwen3 235B n’a été testé qu’avec MLX. Source : Vše Smart, mesuré le 24 octobre 2026.
MLX lit les prompts jusqu’à deux fois plus vite
Avant d’écrire le premier mot, le modèle doit lire tout le prompt, par exemple un document à résumer. Selon Vše Smart, MLX a lu les prompts 1,4 à 2,2 fois plus vite que llama.cpp avec tous les modèles, l’écart le plus grand étant avec Qwen3 30B-A3B. Avec gpt-oss-120b sous MLX, un document de 4 000 tokens est lu en bien moins d’une seconde. Pour la génération, aucun des deux ne l’emporte nettement : mieux vaut essayer les deux avec votre propre modèle.
Un long contexte
| Modèle | Génération | Lecture du prompt |
|---|---|---|
| Qwen3 8B | 121 | 5 240 |
| Qwen3 30B-A3B | 115 | 6 822 |
| Llama 3.3 70B | 22 | 650 |
| gpt-oss-120b | 114 | 6 332 |
| Qwen3 235B-A22B | 33 | 1 289 |
MLX, prompt de 16 384 tokens suivi de 128 tokens générés, en tokens par seconde. Source : Vše Smart.
Avec un prompt de 16 384 tokens, la génération sous MLX a ralenti d’environ 12 à 31 % selon le modèle.
Qwen3 235B demande plus de 128 Go
Le plus grand modèle a occupé environ 133 Go de mémoire et généré environ 46 tokens par seconde, plus vite que la plupart des gens ne lisent. Il ne tiendrait pas sur un Mac de 128 Go : c’est là que la configuration 256 Go fait la différence.
Températures, consommation et M3 Ultra
Le GPU a atteint au plus 87 °C et la puce a consommé jusqu’à 215 W pendant la lecture des prompts. Le ventilateur est monté à 2 265 tr/min, soit 62 % de son maximum, et pendant dix minutes de charge continue le test n’a relevé aucun bridage. Dans le test de référence llama.cpp avec Llama 2 7B (Q4_0), l’article estime que le M5 Ultra lit les prompts environ 3,5 fois plus vite et génère environ deux fois plus vite que le M3 Ultra. L’auteur précise que les chiffres du M3 Ultra viennent du tableau communautaire de llama.cpp, mesuré avec d’anciennes versions : la comparaison reste indicative.
Comme le souligne l’article, le test mesure la vitesse et non la qualité des réponses, n’utilise que la quantification 4 bits et des requêtes isolées, et indique la consommation de la puce, pas celle de toute la machine.
Essayez vous-même
Vous pouvez louer un Mac Studio M5 Ultra 256 Go dès une journée et y tester vos propres modèles. Notre test de charge d’une heure montre son comportement sous charge prolongée.