22 अक्टूबर 2026 · Jakub M.

Mac Studio M5 Ultra पर एक घंटे का फ़ुल लोड: दस लाख टोकन की लागत कितनी

हमने अपने Mac Studio से पूरे एक घंटे तक एक साथ सोलह AI मॉडल चलाकर टेक्स्ट बनवाया और हर दस सेकंड पर स्पीड, पावर और तापमान दर्ज किया। उसने बिना धीमा हुए 9.8 लाख टोकन बनाए, और दस लाख टोकन पर 0.074 kWh बिजली लगी।

AI को लोकल चलाने में असल में कितना ख़र्च आता है? हमने M5 Ultra और 256 GB मेमोरी वाले अपने Mac Studio पर, यानी उसी मशीन पर जिसे हम किराये पर देते हैं, एक घंटे का टेस्ट चलाया और हर दस सेकंड पर स्पीड, चिप की पावर और चिप का तापमान दर्ज किया।

हमने कैसे मापा

हार्डवेयर: Apple M5 Ultra (36-कोर CPU, 80-कोर GPU) वाला Mac Studio, 256 GB यूनिफ़ाइड मेमोरी, macOS 27.0.1। टेस्ट के दौरान मशीन पर और कुछ नहीं चल रहा था।
मॉडल: OpenAI का gpt-oss-20b, Apple के MLX के लिए MXFP4-Q8 संस्करण में (MLX 0.32.4, mlx-lm 0.32.2)। यह 21 अरब पैरामीटर वाला mixture-of-experts मॉडल है, जिसमें से हर टोकन के लिए लगभग 3.6 अरब इस्तेमाल होते हैं। यह लगभग 12 GB मेमोरी लेता है।
लोड: सोलह अलग-अलग प्रोग्राम 60 मिनट तक एक साथ टेक्स्ट बनाते रहे, हर एक के पास मॉडल की अपनी कॉपी थी। यह सोलह उपयोगकर्ताओं या AI एजेंटों जैसा है। हर जनरेशन 2,000 टोकन पर रुकती थी और फिर उसी काम से दोबारा शुरू होती थी: कार का इंजन कैसे काम करता है, इस पर एक लंबा तकनीकी लेख।
माप: हर 10 सेकंड पर हमने जनरेट हुए टोकन की संख्या, चिप की पावर और CPU व GPU का औसत तापमान दर्ज किया, जो macmon 0.10.0 से macOS से पढ़ा गया। ऊर्जा = औसत पावर × समय।

नतीजे

	नतीजा
टेस्ट की अवधि	60 मिनट
समानांतर स्ट्रीम	16
जनरेट हुए	9,80,000 टोकन
स्पीड	273 टोकन प्रति सेकंड
स्पीड, पहला / आख़िरी छठा हिस्सा	272 / 272 tok/s
चिप की पावर, औसत (अधिकतम)	73 W (76 W)
स्थिर होने के बाद CPU / GPU तापमान	63 / 66 °C
सबसे ऊँचा CPU / GPU तापमान	66 / 70 °C
प्रति दस लाख टोकन ऊर्जा	0.074 kWh

सीमा मेमोरी की स्पीड है, कंप्यूटिंग नहीं

टेक्स्ट बनाते समय Mac को कंप्यूटिंग पावर नहीं, बल्कि मेमोरी बैंडविड्थ रोकती है। हर टोकन के लिए GPU को मॉडल का संबंधित हिस्सा मेमोरी से पढ़ना होता है और उसका ज़्यादातर समय डेटा के इंतज़ार में जाता है। इसीलिए सोलह स्ट्रीम के साथ भी चिप ने सिर्फ़ 73 W लिए।

सोलह प्रोग्राम GPU को साझा करते हैं और हर एक मॉडल की अपनी कॉपी पढ़ता है। मिलकर उन्होंने प्रति सेकंड 273 टोकन बनाए, यानी प्रति स्ट्रीम लगभग 17। चैट करने वाले एक व्यक्ति के लिए यह धीमा है, लेकिन बैकग्राउंड में काम करने वाले एजेंटों के समूह के लिए काफ़ी है। इन्फ़रेंस सर्वर इसे अलग तरीके से करते हैं: वे कई उपयोगकर्ताओं के अनुरोध एक बैच में संसाधित करते हैं और सबके लिए मॉडल एक बार पढ़ते हैं, जिससे उसी Mac से प्रति सेकंड ज़्यादा टोकन मिलते हैं। इस टेस्ट में हमने यह नहीं मापा।

तापमान और स्थिरता

GPU का तापमान चौथे मिनट में 70 °C तक पहुँचा, फिर घटा और पाँचवें मिनट से 66 °C पर टिका रहा। CPU 63 °C पर स्थिर रहा। पंखे साथ बनाए रहे और चिप को धीमा नहीं होना पड़ा: टेस्ट के पहले और आख़िरी, दोनों छठे हिस्सों में Mac ने प्रति सेकंड 272 टोकन बनाए।

बिजली का ख़र्च

फ़ुल लोड पर एक घंटे में 0.073 kWh लगे। पूरे दिन ऐसे चलाने पर लगभग 1.75 kWh लगेंगे, और दस लाख टोकन पर 0.074 kWh। €0.25 प्रति kWh के हिसाब से यह प्रति दस लाख टोकन 2 सेंट से कम और प्रति दिन लगभग 44 सेंट है। लोकल AI में बिजली का ख़र्च लगभग मायने नहीं रखता; असली बात कंप्यूटर की कीमत है।

यह टेस्ट क्या नहीं दिखाता

पूरे कंप्यूटर की पावर। हमने सिर्फ़ चिप (CPU, GPU और Neural Engine) को मापा। पंखे, SSD, नेटवर्क और पावर सप्लाई के नुकसान शामिल नहीं हैं, इसलिए सॉकेट से ली गई पावर थोड़ी ज़्यादा होती है।
बैच में सर्विंग। सोलह अलग-अलग प्रोग्राम, एक बैच में कई उपयोगकर्ताओं को सेवा देने वाले सर्वर जैसे नहीं हैं।
बड़े मॉडल। gpt-oss-20b छोटा और तेज़ है। 70 अरब पैरामीटर वाला डेंस मॉडल Mac पर अलग लोड डालेगा और अलग पावर लेगा।
आउटपुट की गुणवत्ता। हमने सिर्फ़ स्पीड और पावर मापी, यह नहीं कि मॉडल ने क्या लिखा।

ये ऊपर दी गई शर्तों में मापे गए नतीजे हैं, गारंटी नहीं: असली स्पीड और पावर मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट की लंबाई, सॉफ़्टवेयर और काम पर निर्भर करती है।

ख़ुद आज़माएँ

अगर आप देखना चाहते हैं कि आपका अपना मॉडल लोड में कैसा चलता है, तो आप 256 GB वाला यह Mac Studio M5 Ultra एक दिन से किराये पर ले सकते हैं। और माप हमारे छह मॉडलों के बेंचमार्क में हैं।

किराये के लिए पूछें परफ़ॉर्मेंस