تكميم النماذج على Ollama: شغّل نموذجاً أكبر برام أقل

تكميم النماذج على Ollama يعني تقليص دقّة أوزان النموذج من 16 بت (النسخة الكاملة) إلى 4 أو 5 أو 8 بت، فينكمش حجم النموذج في الذاكرة بشكل كبير مع خسارة جودة بسيطة غالباً لا تُلاحَظ في الاستخدام اليومي. الفائدة المباشرة أنك تشغّل نموذجاً أكبر وأذكى على رام أقل بكثير. نموذج بحجم 7 مليار معامل (7B) في نسخته الكاملة يحتاج نحو 14GB من الذاكرة، لكنه بتكميم Q4 ينكمش إلى نحو 4 إلى 5GB فقط، فيعمل مريحاً على سيرفر بـ8GB رام. القاعدة العملية: Q4 هو نقطة التوازن الأشهر بين الجودة والحجم ويكفي معظم الاستخدامات، وQ5 يعطي جودة أعلى قليلاً مقابل ذاكرة أكثر، وQ8 قريب جداً من النسخة الكاملة لكنه يستهلك ضعف Q4 تقريباً. عملياً: نموذج 7B يناسب سيرفر 8GB، ونموذج 13B يناسب 16GB، ونماذج 30B وأكبر تحتاج 32GB فأكثر. Ollama يسهّل كل هذا لأنه يحمّل النسخ المكمّمة جاهزة بأمر واحد، فتكتب اسم النموذج مع وسم التكميم ويتكفّل الباقي. في هذا الدليل نشرح ما هو التكميم فعلاً وأثره على الجودة، وجدول يربط حجم النموذج بالرام المطلوبة، ومتى يكفي المعالج (CPU) ومتى تحتاج معالجاً رسومياً (GPU)، وأمثلة أوامر Ollama عملية على خادم سحابي من كلاود بسيرفرات في الرياض بزمن استجابة نحو 8ms.

ما هو التكميم ولماذا يوفّر الذاكرة

النموذج اللغوي في جوهره مليارات الأرقام (الأوزان) التي تحدّد سلوكه. في نسخته الأصلية يُخزَّن كل رقم بدقّة عالية تأخذ 16 بت. التكميم يقلّل عدد البتات لكل رقم، فبدل 16 بت يخزّنه بـ8 أو 5 أو 4، تماماً كما تختصر صورة عالية الدقّة إلى حجم أصغر بتقليل ألوانها. النتيجة أن النموذج يشغل ذاكرة أقل بكثير، وتقريباً: النسخة الكاملة (16 بت) تحتاج نحو ضعف عدد المعاملات بالجيجابايت، فنموذج 7B يحتاج نحو 14GB. تكميم Q8 يخفضها للنصف تقريباً (نحو 7GB)، وQ4 للربع تقريباً (نحو 4GB). هذا الفرق هو ما يحوّل نموذجاً يستحيل تشغيله على سيرفرك إلى نموذج يعمل بسلاسة. الأهم أن التكميم يقلّل أيضاً كمية البيانات المنقولة من الذاكرة أثناء التوليد، فيسرّع الاستجابة على المعالج، وهذه ميزة مزدوجة.

أثر التكميم على الجودة: أين الخط الأحمر

السؤال المنطقي: ألا تخسر جودة حين تقلّل الدقّة؟ الجواب نعم لكن بقدر أقل مما تتوقّع. الفرق بين النسخة الكاملة وQ8 يكاد لا يُلاحَظ في أي استخدام عملي. الفرق بين Q8 وQ5 صغير جداً في معظم المهام. أما Q4 فيبدأ يظهر فيه فرق طفيف في المهام الدقيقة مثل الاستدلال المعقّد أو البرمجة، لكنه يبقى ممتازاً للمحادثة والتلخيص والأسئلة العامة. أما التكميم الأعنف من Q4 (مثل Q3 وQ2) فهنا يبدأ التدهور يصبح ملموساً، وتُنصح بتجنّبه إلا للتجربة على عتاد محدود جداً. القاعدة العملية: ابدأ بـQ4 لأنه أفضل توازن، وارتقِ إلى Q5 أو Q8 فقط إن لاحظت نقصاً في جودة مهمتك وكانت الذاكرة تسمح.

جدول: أي حجم نموذج يناسب رام سيرفرك

هذا الجدول يربط حجم النموذج بتكميم Q4 (الأشهر) بالرام العملية المطلوبة، مع باقة كلاود المناسبة. الأرقام تقريبية وتترك هامشاً للنظام والسياق.

حجم النموذج	الذاكرة المطلوبة (Q4)	باقة كلاود المناسبة	مناسب لـ
3B وأصغر	نحو 3 إلى 4GB	نمو 4GB	مهام خفيفة، تصنيف، ردود سريعة
7B إلى 8B	نحو 5 إلى 6GB	أعمال 8GB	محادثة عامة، تلخيص، مساعد داخلي
13B إلى 14B	نحو 9 إلى 11GB	مؤسسة 16GB	جودة أعلى، برمجة، استدلال أفضل
30B إلى 34B	نحو 20 إلى 24GB	مؤسسة 16GB + إضافة رام	مهام معقّدة تتطلب دقّة

باقات كلاود سنوياً شامل الضريبة: نمو (2vCPU/4GB) بـ6,900 ريالاً، أعمال (4vCPU/8GB) بـ11,500، مؤسسة (8vCPU/16GB) بـ18,000، وإضافة 2GB رام بـ600 ريال سنوياً، فترفع سيرفرك لحجم النموذج الذي تريده بمرونة. راجع خادم سحابي والأسعار والباقات لتقدير الحجم المناسب.

CPU أم GPU: متى يكفي المعالج

سؤال شائع: هل أحتاج معالجاً رسومياً لتشغيل النماذج؟ الجواب يعتمد على حجم النموذج وحجم الحمل. المعالج (CPU) يكفي تماماً للنماذج الصغيرة والمتوسطة المكمّمة (حتى 13B تقريباً) في الاستخدام الفردي أو الحمل الخفيف، ويعطي سرعة مقبولة للمحادثة والتلخيص. لكن كلما كبر النموذج أو زاد عدد المستخدمين المتزامنين، ظهرت الحاجة لمعالج رسومي يسرّع التوليد أضعافاً (عدد أعلى بكثير من الكلمات في الثانية). القاعدة العملية: ابدأ بالمعالج مع نموذج مكمّم واختبر السرعة على حملك الحقيقي، فإن كانت كافية وفّرت تكلفة GPU الأعلى، وإن احتجت استجابة أسرع أو خدمة عدة مستخدمين معاً، فحينها يستحق GPU ثمنه. المبدأ ألا تدفع مقابل عتاد أغلى قبل أن تثبت أنك تحتاجه فعلاً.

أوامر Ollama عملية

Ollama يجعل التكميم بسيطاً لأنه يوفّر النسخ المكمّمة جاهزة. لتشغيل نموذج بتكميم معيّن تكتب اسمه مع الوسم، فمثلاً تسحب نموذج 7B بتكميم Q4 وتشغّله فوراً، ويتكفّل Ollama بالتحميل والذاكرة. تستطيع تجربة أكثر من مستوى تكميم لنفس النموذج ومقارنة الجودة والسرعة على مهمتك قبل أن تستقرّ على واحد. النماذج تُخزَّن محلياً على سيرفرك، فتبقى بياناتك عندك بلا إرسال لأي جهة خارجية، وهذه ميزة الخصوصية الأساسية للاستضافة الذاتية. استضافة AI في كلاود تسهّل البداية لأنها خادم سحابي مع قالب Open WebUI وOllama مثبّت مسبقاً وجاهز، فتصل لواجهة محادثة خاصة بك في دقائق، راجع استضافة AI للتفاصيل.

ما وراء الرام: عوامل أخرى تحدّد التجربة

الذاكرة أهم قيد لكنها ليست الوحيد. حجم نافذة السياق (context window) الذي تشغّل به النموذج يستهلك ذاكرة إضافية تتجاوز حجم الأوزان، فكلما طلبت سياقاً أطول (لقراءة وثائق كبيرة مثلاً) احتجت رام أكثر فوق ما يذكره الجدول، لذلك اترك هامشاً دائماً. عدد المستخدمين المتزامنين عامل ثانٍ، فنموذج يخدم شخصاً واحداً يختلف عن نموذج يخدم فريقاً كاملاً في وقت واحد، والحمل المتزامن يرفع الحاجة للمعالجة وربما لمعالج رسومي. سرعة القرص تؤثّر على زمن تحميل النموذج أول مرة، وSSD يجعل هذا سريعاً. أخيراً، عدد أنوية المعالج (vCPU) يؤثّر مباشرة على سرعة التوليد على CPU، فباقة بأربع أنوية أسرع محسوساً من باقة بنواتين لنفس النموذج. القاعدة العملية: قدّر حاجتك من مجموع هذه العوامل لا الرام وحدها، وابدأ بحجم معقول ثم كبّر عند الحاجة، فالترقية فورية بلا انقطاع خدمة.

أخطاء شائعة عند تشغيل النماذج محلياً

الخطأ الأكثر شيوعاً اختيار نموذج أكبر من ذاكرة السيرفر ثم مفاجأة التوقّف أو البطء الشديد حين ينفد الرام ويلجأ النظام للقرص. الخطأ الثاني القفز مباشرة لتكميم عنيف مثل Q2 طمعاً في نموذج أكبر، فتنهار الجودة ويصبح النموذج غير مفيد. الخطأ الثالث شراء GPU باهظ قبل اختبار المعالج على الحمل الحقيقي، فيدفع الفريق مقابل قدرة لا يستعملها. الخطأ الرابع إهمال هامش الذاكرة للسياق ونظام التشغيل، فيعمل النموذج ثم يتعثّر حين يمتلئ السياق. تجنّب هذه الأخطاء بقاعدة بسيطة: طابق الحجم مع الذاكرة بهامش، ابدأ بـQ4 وبالمعالج، واختبر على مهمتك الحقيقية قبل أي التزام بعتاد أغلى.

خلاصة عملية

ابدأ باختيار نموذج يناسب مهمتك، ثم اختر تكميم Q4 كنقطة انطلاق للتوازن بين الجودة والذاكرة. طابق حجم النموذج مع رام سيرفرك من الجدول أعلاه: 7B على 8GB، و13B على 16GB. جرّب على المعالج أولاً واختبر السرعة على حملك الحقيقي قبل أن تدفع مقابل GPU. إن نقصت الجودة في مهمة دقيقة، ارتقِ إلى Q5 أو Q8 أو أضف رام وارفع لحجم نموذج أكبر، فالترقية في كلاود فورية. الخلاصة: التكميم هو ما يجعل الذكاء المحلي في متناول سيرفر عادي، فتحصل على مساعد خاص بك يحترم خصوصية بياناتك بتكلفة معقولة، وقبل أن تلتزم بحجم كبير شغّل نموذجاً صغيراً مكمّماً ليوم أو يومين على مهمتك الفعلية، فستكتشف بسرعة إن كانت الجودة تكفيك أم تحتاج خطوة أعلى، وهذا الاختبار العملي المباشر أصدق دائماً من أي توصية عامة على الورق.