3 नवंबर 2026 · Jakub M.

128 GB वाला MacBook Pro M5 Max: लोकल AI में लैपटॉप कितनी दूर जाता है

Vše Smart ने 128 GB वाले MacBook Pro M5 Max पर 8 से 120 अरब पैरामीटर वाले छह ओपन मॉडल चलाए। सभी बिना सिस्टम बदले समा गए, gpt-oss-120b प्रति सेकंड 110 टोकन बनाता है और चिप सिर्फ़ 37–50 W लेती है। लंबे कॉन्टेक्स्ट और बड़े डेंस मॉडलों पर लैपटॉप की साँस फूल जाती है।

स्रोत: MacBook Pro M5 Max se 128 GB RAM v testu lokálních AI modelů, Ludvík Eckerman, Vše Smart, 2 नवंबर 2026 (चेक भाषा में)। नीचे दिए सभी आँकड़े इसी लेख से हैं।

क्या लैपटॉप गंभीर लोकल AI संभाल सकता है? चेक वेबसाइट Vše Smart ने सबसे शक्तिशाली MacBook Pro का परीक्षण किया: M5 Max चिप (18-कोर CPU, 40-कोर GPU) और 614 GB/s बैंडविड्थ वाली 128 GB यूनिफ़ाइड मेमोरी। छह ओपन मॉडल, दो इंजन और बिजली खपत पर नज़र।

परीक्षण कैसे हुआ

सिस्टम: macOS 27.2, हाई पावर मोड, चार्जर से जुड़ा, GPU मेमोरी की डिफ़ॉल्ट सीमा (लगभग 107 GB)।
सॉफ़्टवेयर: llama.cpp (build 11669, Metal) और MLX 0.32.4 के साथ mlx-lm 0.32.2।
मॉडल: Llama 3.1 8B, gpt-oss-20b, Qwen3 30B-A3B, Qwen3 32B, Llama 3.3 70B और gpt-oss-120b, 4-बिट क्वांटाइज़ेशन में (gpt-oss अपने मूल MXFP4 में)।
तरीका: 0 से 32,768 टोकन तक के कॉन्टेक्स्ट, हर एक के तीन रन, powermetrics से चिप की खपत, और Qwen3 30B-A3B के साथ दस मिनट का लगातार लोड।

नतीजे

मॉडल	जनरेशन, llama.cpp	जनरेशन, MLX	32k कॉन्टेक्स्ट पर जनरेशन (MLX)	32k पर पहला टोकन (MLX)	अधिकतम मेमोरी (MLX)	चिप की पावर	टोकन प्रति वॉट
Llama 3.1 8B	102	115	60	17 से.	9.5 GB	49.8 W	2.02
gpt-oss-20b	156	142	105	7.5 से.	13.7 GB	48.5 W	3.24
Qwen3 30B-A3B	155	152	72	15 से.	21.1 GB	41.1 W	3.69
Qwen3 32B	26	28	18	72 से.	27.8 GB	48.3 W	0.53
Llama 3.3 70B	12.5	13.6	10	132 से.	51.3 GB	40.5 W	0.31
gpt-oss-120b	110	94	70	13.5 से.	65.5 GB	37.3 W	2.92

जनरेशन टोकन प्रति सेकंड में, 4-बिट मॉडल (gpt-oss MXFP4 में), जब तक अलग न लिखा हो खाली कॉन्टेक्स्ट। llama.cpp में जनरेशन के दौरान सिर्फ़ चिप (CPU, GPU, Neural Engine) की पावर। स्रोत: Vše Smart, 2 नवंबर 2026 को प्रकाशित।

128 GB में सब समा जाता है

सभी छह मॉडल मेमोरी सीमा बढ़ाए बिना चले। सबसे बड़ा gpt-oss-120b शिखर पर 65.5 GB तक गया, यानी काफ़ी गुंजाइश बची। mixture of experts संरचना के कारण यह llama.cpp में फिर भी प्रति सेकंड 110 टोकन बनाता है।

Mixture of experts जीतता है, डेंस मॉडल जूझते हैं

सबसे तेज़ वे मॉडल रहे जो हर टोकन के लिए अपने पैरामीटरों का केवल एक हिस्सा इस्तेमाल करते हैं: Qwen3 30B-A3B और gpt-oss-20b, लगभग 155 टोकन प्रति सेकंड। डेंस Llama 3.3 70B ने 12.5–13.6 टोकन प्रति सेकंड दिए; 32 हज़ार टोकन के कॉन्टेक्स्ट पर यह लगभग 10 पर आ गया और पहले टोकन के लिए 132 सेकंड लगे। बड़े डेंस मॉडलों के साथ लंबे दस्तावेज़ों पर लैपटॉप अपनी सीमा पर है।

किफ़ायती और स्थिर

जनरेशन के दौरान चिप ने 37–50 W और खाली बैठे लगभग 2.1 W लिए। सबसे कुशल Qwen3 30B-A3B रहा, 3.69 टोकन प्रति वाट। दस मिनट के लगातार लोड में इसने लगभग 152 टोकन प्रति सेकंड बनाए रखे, थ्रॉटलिंग का कोई संकेत नहीं। आँकड़े केवल चिप के हैं, पूरे लैपटॉप के नहीं, और परीक्षण चार्जर से जुड़े रहकर हुआ।

जब 128 GB कम पड़े

लगभग 100 GB तक के मॉडलों के लिए MacBook Pro M5 Max एक बेहतरीन पोर्टेबल मशीन है। बड़े मॉडल, जैसे Qwen3 235B, जिसे लगभग 133 GB चाहिए, इसमें समाते ही नहीं, और 70B श्रेणी के डेंस मॉडलों व लंबे कॉन्टेक्स्ट के साथ यह धीमा हो जाता है। हमारे दिग्गजों के मुक़ाबले में Mac Studio M5 Ultra इन मॉडलों पर 2.5 से 2.8 गुना तेज़ था।

जैसा लेख बताता है, परीक्षण ने गति मापी, उत्तरों की गुणवत्ता नहीं।

और चाहिए?

256 GB वाला Mac Studio M5 Ultra किराये पर लें, एक दिन से, और वे मॉडल चलाएँ जो लैपटॉप में नहीं समाते।

किराये के लिए पूछें परफ़ॉर्मेंस