AR
كم ذاكرة يحتاج نموذج الذكاء الاصطناعي؟
اختر حجم ذاكرة جهاز Mac لديك لترى أي نماذج اللغة المفتوحة ستعمل عليه. أو اختر نموذجًا لتعرف كم ذاكرة يحتاج.
نحسب على أساس تكميم 4 بت الشائع في النماذج المحلية، وسياق يصل إلى نحو 32 ألف رمز: المعاملات × 4.5 بت ÷ 8، مع إضافة 10 % و2 GB للسياق والتشغيل. يخصص Mac افتراضيًا لمعالج الرسوميات نحو 67 % من الذاكرة (حتى 36 GB) أو 75 % (فوق 36 GB)، ويمكن رفع هذا الحد. هذه تقديرات، والاستهلاك الفعلي يعتمد على البرمجيات وطول السياق. على جهاز Mac Studio لدينا بذاكرة 256 GB ونظام macOS 27.2.1 يبلغ حد معالج الرسوميات 240 GB، وتستخدم الحاسبة هذه القيمة لذاكرة 256 GB.
بيانات النماذج: Google Gemma, Wikipedia: Qwen, Nemotron, Kimi, OpenRouter, ComputingForGeeks.
كيف تقدّر الحاسبة الذاكرة
يحتاج النموذج اللغوي إلى ذاكرة لثلاثة أمور: أوزانه، والسياق الذي يعمل عليه، والتشغيل نفسه. وتجمعها الحاسبة على النحو التالي.
الأوزان
مع التكميم بدقة 4 بت يشغل كل معامل نحو 4.5 بت مع عوامل القياس، أي نحو 0.56 GB لكل مليار معامل. لذلك يحتاج نموذج 70B إلى نحو 39 GB للأوزان وحدها، ونموذج 120B إلى نحو 66 GB.
السياق وذاكرة KV المؤقتة
يحتفظ النموذج في الذاكرة بمفاتيح وقيم لكل توكن في السياق، وهي ما يُسمّى ذاكرة KV المؤقتة. يعتمد حجمها على بنية النموذج ويزداد مع طول السياق. تضيف الحاسبة إلى الأوزان 10% و2 GB، وهذا يكفي لمعظم النماذج لسياق يصل إلى نحو 32 ألف توكن. أما للسياقات الأطول بكثير فخطّط لذاكرة أكبر.
لماذا لا يعطي Mac النموذج كل ذاكرته
في Apple Silicon يتشارك المعالج ومعالج الرسوميات ذاكرة موحدة واحدة، ويحتفظ macOS بجزء منها للنظام. ويعتمد مقدار ما يستطيع معالج الرسوميات استخدامه افتراضيًا على جهاز Mac وإصدار macOS. على جهاز Mac Studio لدينا بذاكرة 256 GB ونظام macOS 27.2.1 يبلّغ Metal عن 240 GB، أي كل الذاكرة باستثناء 16 GB، وقد عمل نموذج حجمه 224 GB دون تغيير أي إعداد. أما إصدارات macOS الأقدم وأجهزة Mac الأصغر فكانت تسمح عادةً بنحو الثلثين إلى ثلاثة الأرباع، وتُبقي الحاسبة لها هذه القاعدة الأكثر تحفظًا. ويمكن رفع الحد (الإعداد iogpu.wired_limit_mb) على حساب الذاكرة المتاحة للنظام والتطبيقات الأخرى. لذلك تعرض الحاسبة حالة «مع رفع الحد» بشكل منفصل.
4 أو 8 أو 16 بت
يحتاج التكميم بدقة 8 بت إلى نحو ضعف ذاكرة 4 بت، ويحتاج 16 بت (BF16) إلى نحو أربعة أضعافها. ودقة 4 بت هي الحل الوسط المعتاد للتشغيل المحلي: فقدان الجودة صغير في معظم النماذج، ويزداد أسرع تحت 4 بت. المزيد في مقالنا عن مقدار الذاكرة الذي يحتاجه النموذج اللغوي.
التقدير مقابل القياس
| النموذج | تقدير الحاسبة | الذروة المقيسة | أصغر Mac يتسع له |
|---|---|---|---|
| Qwen3 30B-A3B | 20.9 GB | 18.7 GB | 32 GB |
| Llama 3.3 70B | 45.7 GB | 43.3 GB | 64 GB |
| gpt-oss-120b | 74.4 GB | 64.5 GB | 128 GB |
قيس باستخدام mlx-lm 0.32.2 وموجّه من 8192 توكن على Mac Studio M5 Ultra في 11 نوفمبر 2026. يستخدم gpt-oss-120b صيغة MXFP4 الأصغر قليلًا من 4.5 بت التي تفترضها الحاسبة.
التقديرات متحفظة عن قصد: في قياسنا احتاجت النماذج الثلاثة إلى أقل قليلًا. وإذا كنت تحتاج إلى Mac كبير لفترة فقط، فقارن بين استئجار Mac Studio M5 Ultra وشرائه. بالنسبة إلى Qwen3.5 397B تستخدم الحاسبة الذروة التي قسناها بسياق 32k (227.5 GB) بدلًا من التقدير، راجع اختبارنا لهذا النموذج.