النماذج التي استخدمناها عبر وكلاء البرمجة كانت تعمل على خوادم مزوِّد الخدمة. في هذا الفيديو سنشغّل نماذج مفتوحة الأوزان على حاسوب محمول، حيث يمكننا إرسال الطلبات وفحص الردود بأنفسنا. سنقارن نموذجًا أساسيًا بنموذج محادثة، ونفحص قالب المحادثة، وننظر في نموذج طوّره المجتمع ودُرِّب على بيانات استُبعدت منها أمثلة الرفض. تساعد هذه الأمثلة على فهم ما يغيّره التدريب اللاحق، ولماذا نحتاج أيضًا إلى صلاحيات تضبط إجراءات الوكيل.
سنستخدم Ollama لتنزيل النماذج مفتوحة الأوزان وتشغيلها. الأوزان المفتوحة تعني أن قيم المعاملات المدرَّبة متاحة للتنزيل. يتيح Ollama الوصول إلى النموذج المحلي عبر نقطة نهاية HTTP (endpoint)، عادةً على المنفذ 11434. تُخزَّن الأوزان التي نزّلناها على القرص. يحمّلها Ollama إلى الذاكرة لإجراء الاستدلال، ويستقبل الطلبات عبر الخادم الخاص به.
ثبّتوا Ollama إذا أردتم متابعة العروض التوضيحية. على Linux وmacOS، الأمر الظاهر على الشاشة ينزّل برنامج التثبيت ويشغّله. ويوفّر الموقع أيضًا ملفات تنزيل عادية، ولنظام Windows تعليمات تثبيت خاصة به. اختاروا الخيار المناسب لنظام تشغيلكم. شغّلوا ollama list لرؤية النماذج التي نُزّلت من قبل. تعرض لقطة الشاشة هذه ثلاثة نماذج، بالترتيب الظاهر: نسخة من Llama 2 ضبطها مجتمع المطوّرين ضبطًا دقيقًا من دون أمثلة على الرفض، ونموذج المحادثة Llama 3.1 بحجم 8 مليارات معامل، ونموذج أساسي من Gemma 3 بحجم مليار معامل، نُزِّل من Hugging Face كملف GGUF مُكمَّم (quantized). عند تشغيل ollama run متبوعًا باسم نموذج، يُنزَّل عند الحاجة، وتُفتح محادثة في الطرفية.
فهرس نماذج Ollama متاح على ollama.com/search. يمكنكم هناك تصفّح عائلات النماذج وأحجامها قبل اختيار نموذج يناسب حاسوبكم. مُخرَجات هذا الفيديو تشغيلات محفوظة، وتاريخها ظاهر على كل شريحة. أوقفوا الفيديو عند أي أمر وجرّبوه بأنفسكم إن شئتم. قد يختلف نصّ الردّ وسرعته عندكم، وهذا جزء مما يجعل هذه المقارنات مفيدة.
النماذج الصغيرة هنا نظائر عملية للنماذج المستضافة التي كنا نستخدمها. تعتمد السرعة على النموذج وعلى العتاد، وقد يكون التوليد بطيئًا على حاسوب محمول يعمل بالـ CPU وحده. في الاستدلال المحلي، يُعالَج الـ prompt على حاسوبكم. تنزيل الأوزان يستخدم الشبكة، ويدعم Ollama أيضًا نماذج سحابية، لذا تأكّدوا من أنكم اخترتم نموذجًا محليًا حين تكون المعالجة المحلية هي هدف التمرين.
مثالنا الأول هو النسخة المدرَّبة مسبقًا من Gemma، أي نموذج أساسي لم يخضع بعدُ للضبط على التعليمات. عرّفنا التدريب المسبق في وقت سابق من المساق بأنه تعلّم التنبّؤ بتكملة النص. نعطيه بداية جملة: «the capital of France is». فيُكمل بباريس، ثم بمزيد من النص عن المدينة، بما في ذلك ادّعاء غير متّسق. إنتاج تكملة معقولة لا يُثبت أن هذه التكملة صحيحة.
ومع السؤال «what is the capital of France»، يُكمل هذا التشغيل المسجَّل بمزيد من الأسئلة بدل أن يجيب. بل يسأل أحدها لماذا في فرنسا 360 يومًا في السنة، وهو سؤال لا معنى له أصلًا. قائمة من الأسئلة هي إحدى التكملات الممكنة لسؤال في نص عادي. النموذج يولّد تكملة فحسب، وهذا الـ prompt لم يضمن سلوك السؤال والجواب الذي أردناه.
هنا يُكمل النموذج الأساسي بمزيد من الأسئلة. كانت مهمته في التدريب المسبق أن يُكمل النص، بما في ذلك أي حوار يرد فيه. أما التدريب اللاحق فيطوّر سلوك المساعد الذي نريده: الإجابة عن السؤال.
نسخة المحادثة من Llama 3.1 تجيب عن السؤال نفسه مباشرة: عاصمة فرنسا هي باريس. وهذا هو السلوك الذي نتوقّعه عادةً من مساعد محادثة. الضبط على التعليمات جزء من التدريب اللاحق الذي يطوّر هذا السلوك. تستخدم هذه المقارنة نماذج من عائلات وأحجام مختلفة، لذا فهي توضّح الفرق، ولا تعزل التدريب اللاحق بوصفه الفرق التجريبي الوحيد.
صيغة المُدخَلات مهمة أيضًا. يطبّق Ollama قالب المحادثة الخاص بالنموذج، الذي يحدّد الأدوار وحدود الرسائل قبل أن يُكمل النموذج التسلسل. تظهر ترويسة الـ user وسؤاله باللون الكهرماني. علامة نهاية الرسالة تُنهي رسالة الـ user، وترويسة الـ assistant تخبر النموذج بالدور الذي عليه أن يُكمله. وإجابة الـ assistant معروضة باللون البنفسجي. يولّد النموذج نص الـ assistant، وقد يُصدر علامة نهاية الرسالة التي تعلّمها. يتعرّف برنامج الخادم على هذه العلامة فيوقف التوليد. وقد يتوقّف الردّ أيضًا عند حدّ المُخرَجات.
المقارنة التالية تسأل كيف يفتح المستخدم قفل باب بيته دون مفتاح. في هذا التشغيل المحفوظ، يرفض نموذج المحادثة الرسمي من Llama، ويقترح الاتصال بفنّي أقفال.
النموذج الذي طوّره المجتمع باسم llama2-uncensored يردّ على الطلب نفسه بنصائح عامة. نحن نقارن الاستعداد للإجابة، ولا نقيّم ما إذا كانت نصائحه مجدية.
أصل النموذج مهم. هذا الإصدار خضع لضبط دقيق انطلاقًا من الأوزان الأساسية لـ Llama 2، باستخدام مجموعة بيانات محادثات استُبعدت منها ردود الرفض. ولم يُصنع بإزالة مكوّن من نموذج المحادثة الذي سبق أن درّبته Meta. استبعاد تلك الأمثلة يغيّر ما تشجّع عليه مرحلة الضبط الدقيق. والوصول إلى الأوزان الأساسية يجعل مسار التدريب البديل هذا ممكنًا. ثم يمكننا مقارنة طريقة ردّ النماذج الناتجة.
يلخّص المخطط مسارات التدريب. التدريب المسبق على مجموعة كبيرة من النصوص، منها نصوص من الويب، يُنتج نموذجًا أساسيًا يتنبّأ بتكملة النص.
ثم يدرّبه أحد المسارين على المحادثة، بما في ذلك الإجابة عن الطلبات ورفض بعضها. أنماط الردّ هذه سلوك مكتسب مخزَّن في الأوزان.
أما المسار الآخر فيضبط النموذج الأساسي Llama 2 ضبطًا دقيقًا باستخدام بيانات المحادثات المصفّاة. والنموذج البديل الناتج عن الضبط الدقيق يردّ بشكل مختلف على بعض الطلبات.
التدريب إحدى الطرق لجعل النموذج يردّ بشكل أكثر أمانًا. ويمكنه أن يعلّم النموذج أنماطًا مفيدة لتمييز الطلبات التي ينبغي رفضها، وهذه الأنماط تؤثّر فيما ينتجه النموذج. لكن هذه الردود المكتسبة ليست حدًّا صارمًا على الإجراءات. فقد تفشل، ومن يملك الأوزان يستطيع تغيير هذه الردود بمزيد من التدريب. تضيف الصلاحيات والإشراف طبقة منفصلة تحدّد ما يُسمح للـ harness بتنفيذه فعلًا.
يضمّ الفهرس طيفًا واسعًا من الأحجام. النماذج التي تضم نحو مليار أو ملياري معامل نقاط بداية مفيدة لتجارب على الـ CPU، وإن كانت الشريحة تعرض أيضًا أمثلة أكبر. تحقّقوا من متطلبات الذاكرة، لا من حجم التنزيل وحده.
بعض النماذج تقبل الصور إلى جانب النص. مع هذه النماذج، يمكنكم السؤال عن صورة ضمن نمط الطلب والردّ العام نفسه.
عدّة مختبرات ذكاء اصطناعي كبرى تنشر عائلات من النماذج مفتوحة الأوزان. منها Llama من Meta، وGemma من Google، وgpt-oss من OpenAI، ونماذج من Mistral. وتتفاوت أحجامها وقدراتها تفاوتًا كبيرًا.
ويضم الفهرس أيضًا إصدارات من مختبرات صينية، مثل Qwen من Alibaba، وDeepSeek. وهذه أمثلة أخرى على تنوّع النماذج المتاحة للتشغيل أو الدراسة.
وينشر مطوّرو المجتمع أيضًا نماذج خضعت للضبط الدقيق، ونماذج مُقطَّرة ومدموجة. ويستطيع Ollama أيضًا تنزيل نماذج GGUF المدعومة مباشرة من Hugging Face بعنوان مستودعها. هكذا نُزِّل النموذج الأساسي Gemma في لقطة الشاشة الأولى، ولهذا بدأ اسمه في القائمة بـ hf.co. صيغة الملف وحدها لا تضمن أن كل بنى النماذج مدعومة.
إذا كان النموذج مدعومًا ويناسب عتادكم، فيكفي ollama run متبوعًا باسمه للبدء. اسم النموذج يشير إلى إصدار وإعداد محدّدين، لذا تحقّقوا من الإصدار الذي تنزّلونه عند مقارنة النتائج.
استمتعوا بتنزيل بعض النماذج وتجربتها. جرّبوا الـ prompt نفسه على نموذج أساسي وعلى نموذج محادثة، ولاحظوا كم تختلف إجاباتهما. ولا تنسوا أن تحذفوها حين تنتهون، باستخدام ollama rm متبوعًا باسم النموذج، إن أردتم استعادة المساحة على حاسوبكم.