12 نوفمبر 2026 · Jakub M.

Qwen3.5 397B على جهاز Mac Studio M5 Ultra واحد: 224 GB و62 توكن في الثانية

يشغل نموذج بـ397 مليار معامل نحو 224 GB بدقة 4 بت. شغّلناه على جهاز Mac Studio M5 Ultra واحد بذاكرة 256 GB: ولّد نحو 62 توكن في الثانية، وتعامل مع سياق من 128 ألف توكن، ولم يحتج إلى أي تغيير في إعدادات macOS.

كان أكبر اختبار أجريناه حتى الآن على Qwen3 235B بحجم نحو 133 GB. هذه المرة ذهبنا إلى حدود ذاكرة Mac: Qwen3.5 397B-A17B نموذج من نوع mixture-of-experts بـ397 مليار معامل، يعمل منها نحو 17 مليارًا لكل توكن. ويشغل بصيغة MLX بدقة 4 بت نحو 224 GB.

كيف قسنا

العتاد: Mac Studio بشريحة Apple M5 Ultra (معالج 36 نواة ورسوميات 80 نواة) وذاكرة موحدة 256 GB، ونظام macOS 27.2.1.
البرمجيات: Python 3.12 وMLX 0.32.4 وmlx-lm 0.32.2، والنموذج mlx-community/Qwen3.5-397B-A17B-4bit.
الاختبار: الأداة المدمجة mlx_lm.benchmark، وموجّه من توكنات عشوائية ببذرة ثابتة، وتشغيل تمهيدي قبل كل قياس. موجّهات من 512 و8192 توكن مع توليد 128 توكن (ثلاث مرات ومرتان)، ثم موجّهات أطول حتى 131072 توكن مع توليد 64 توكن (قياس واحد لكل منها).

النتائج

الموجّه (توكن)	معالجة الموجّه (توكن/ث)	التوليد (توكن/ث)	ذروة الذاكرة
512	159	61.6	224.3 GB
8,192	1,265	59.9	226.8 GB
16,384	1,432	58.3	227.0 GB
32,768	1,500	55.1	227.5 GB
65,536	1,345	50.3	228.5 GB
131,072	1,080	44.1	230.6 GB

Qwen3.5 397B-A17B، MLX بدقة 4 بت (mlx-community)، mlx-lm 0.32.2، macOS 27.2.1، القياس في 12 نوفمبر 2026. عند 512 و8192 توكن: توليد 128 توكن، متوسط 3 و2 تكرارات؛ الموجّهات الأطول: توليد 64 توكن، قياس واحد. تفاوتت قيمة الموجّه ذي 512 توكن بين التكرارات (من 141 إلى 195 توكن/ث).

دون تغيير أي إعداد

توقعنا ألا يتسع النموذج مع الإعدادات الافتراضية. فإصدارات macOS الأقدم كانت تسمح لمعالج الرسوميات بنحو ثلاثة أرباع الذاكرة فقط، أي نحو 192 GB في Mac بذاكرة 256 GB. لكن على جهازنا بنظام macOS 27.2.1 يبلّغ Metal عن حد موصى به قدره 240 GB (257.7 مليار بايت)، أي كل الذاكرة باستثناء 16 GB. عمل النموذج بالإعدادات الافتراضية بالسرعة نفسها التي عمل بها مع حد مضبوط يدويًا، وبقيت ذاكرة التبديل أقل من 45 MB، وأبلغ macOS طوال الوقت عن ضغط ذاكرة طبيعي. وقسنا القيمة نفسها 240 GB على جهازنا الثاني بذاكرة 256 GB. وقد حدّثنا حاسبة الذاكرة بناءً على ذلك.

هذا مهم للمستأجرين: ليست لديهم صلاحيات المسؤول، فلا يستطيعون رفع الحد بأنفسهم. وعلى هذه الأجهزة لا يحتاجون إلى ذلك.

السياق الطويل لا يكلّف كثيرًا من الذاكرة

بين موجّه من 512 توكن وموجّه من 131072 توكن، زادت ذروة الذاكرة بنحو 6 GB فقط، من 224.3 إلى 230.6 GB. وحتى مع أطول سياق بقي أكثر من 25 GB متاحة للنظام. أما السرعة فتنخفض مع طول السياق: انخفض التوليد من 62 إلى 44 توكن في الثانية، وهو ما يزال إيقاعًا مريحًا للقراءة.

أكبر لكنه أسرع

في اختبارنا في أكتوبر ولّد Qwen3 235B نحو 46 توكن في الثانية بسياق فارغ و33 مع موجّه من 16384 توكن. أما Qwen3.5 397B فحجمه ضعف ذلك تقريبًا، ومع ذلك يولّد نحو 62 و58 توكن في الثانية في ظروف مماثلة. السبب هو عدد المعاملات النشطة الأقل لكل توكن: نحو 17 مليارًا بدلًا من 22. استخدم اختبار أكتوبر إصدارًا أقدم من البرمجيات وطريقة مختلفة قليلًا، لذا فالمقارنة تقريبية.

الاستهلاك

خلال الاختبار استهلكت الشريحة (المعالج ومعالج الرسوميات) نحو 104 واط كحد أقصى، مقيسة بأداة powermetrics بعينات كل ثانيتين. لا نذكر متوسطًا لأن القياس شمل أيضًا تحميل النموذج وفترات التوقف.

حدود الاختبار

قسنا نموذجًا واحدًا على جهاز Mac واحد بطلبات منفردة. يعطي موجّه من توكنات عشوائية أرقام سرعة خالصة، وقد تختلف السرعة في المهام الحقيقية. لا يقيس الاختبار جودة الإجابات، وقد تكون إجابات نسخة 4 بت أسوأ قليلًا من النموذج الكامل.

جرّب بنفسك

إذا أردت تشغيل نموذج بهذا الحجم دون شراء Mac بأكثر من 12,000 يورو، يمكنك استئجار Mac Studio M5 Ultra بذاكرة 256 GB ابتداءً من يوم واحد.

اطلب الاستئجار الأداء