تشغيل Gemma باستخدام Ollama

قد يكون تشغيل نماذج الذكاء الاصطناعي التوليدي، مثل Gemma، أمرًا صعبًا بدون الأجهزة المناسبة. تسهّل أُطر العمل المفتوحة المصدر، مثل llama.cpp وOllama، هذه العملية من خلال إعداد بيئة وقت تشغيل تم ضبطها مسبقًا تتيح لك تشغيل إصدارات من Gemma باستخدام موارد حوسبة أقل. في الواقع، يمكنك استخدام llama.cpp وOllama لتشغيل إصدارات من Gemma على جهاز كمبيوتر محمول أو جهاز حوسبة صغير آخر بدون وحدة معالجة الرسومات (GPU).

لتشغيل نماذج Gemma باستخدام موارد حوسبة أقل، تستخدم أُطر عمل llama.cpp وOllama إصدارات مكمَّمة من النماذج بتنسيق ملف نموذج Georgi Gerganov Unified Format (GGUF). تم تعديل هذه النماذج المكمَّمة لمعالجة الطلبات باستخدام بيانات أصغر وأقل دقة. يؤدي استخدام بيانات أقل دقة في النماذج المكمَّمة لمعالجة الطلبات عادةً إلى خفض جودة ناتج النماذج، ولكن مع ميزة خفض تكاليف موارد الحوسبة أيضًا.

يصف هذا الدليل كيفية إعداد Ollama واستخدامه لتشغيل Gemma من أجل إنشاء ردود نصية.

الإعداد

يصف هذا القسم كيفية إعداد Ollama وإعداد نموذج Gemma للردّ على الطلبات، بما في ذلك طلب الوصول إلى النموذج وتثبيت البرامج وضبط نموذج Gemma في Ollama.

تثبيت Ollama

قبل أن تتمكّن من استخدام Gemma مع Ollama، عليك تنزيل برنامج Ollama وتثبيته على جهاز الحوسبة.

لتنزيل Ollama وتثبيته:

1. انتقِل إلى صفحة التنزيل: https://ollama.com/download
2. اختَر نظام التشغيل، وانقر على الزر تنزيل أو اتّبِع التعليمات في صفحة التنزيل.
3. ثبِّت التطبيق عن طريق تشغيل أداة التثبيت.
   • ‫Windows: شغِّل ملف أداة التثبيت ‎ *.exe واتّبِع التعليمات.
   • ‫Mac: فكِّك حزمة zip وانقِل مجلد تطبيق Ollama إلى دليل التطبيقات.
   • ‫Linux: اتّبِع التعليمات في أداة تثبيت نص bash البرمجية.

4. أكِّد تثبيت Ollama عن طريق فتح نافذة طرفية وإدخال الأمر التالي:

   ollama --version

من المفترض أن يظهر لك ردّ مشابه لما يلي: ollama version is #.#.##. إذا لم تحصل على هذه النتيجة، تأكَّد من إضافة ملف Ollama القابل للتنفيذ إلى مسار نظام التشغيل.

ضبط Gemma في Ollama

لا تتضمّن حزمة تثبيت Ollama أي نماذج تلقائيًا. يمكنك تنزيل نموذج باستخدام الأمر pull.

لضبط Gemma في Ollama:

1. نزِّل إصدار Gemma 4 التلقائي واضبطه عن طريق فتح نافذة طرفية وإدخال الأمر التالي:

   ollama pull gemma4

2. بعد إكمال التنزيل، يمكنك التأكّد من توفّر النموذج باستخدام الأمر التالي:

   ollama list

يتم تحديد النماذج على النحو التالي: <model_name>:<tag>. بالنسبة إلى Gemma 4، أربعة أحجام: مَعلمات E2B وE4B و26B و31B:

• مَعلمات E2B‏ gemma4:e2b
• مَعلمات E4B‏ gemma4:e4b
• مَعلمات 26B‏ gemma4:26b
• مَعلمات 31B‏ gemma4:31b

يمكنك العثور على العلامات المتاحة على موقع Ollama الإلكتروني، بما في ذلك Gemma 4، Gemma 3n، Gemma 3، Gemma 2 وGemma.

إنشاء الردود

عند الانتهاء من تثبيت نموذج Gemma في Ollama، يمكنك إنشاء الردود على الفور باستخدام واجهة سطر الأوامر run في Ollama. يضبط Ollama أيضًا خدمة ويب للوصول إلى النموذج، ويمكنك اختبارها باستخدام الأمر curl.

لإنشاء ردّ من سطر الأوامر:

• في نافذة طرفية، أدخِل الأمر التالي:

  ollama run gemma4 "roses are red"
  

• أدرِج مسار الصورة لاستخدام إدخال مرئي:

  ollama run gemma4 "caption this image /Users/$USER/Desktop/surprise.png"
  

لإنشاء ردّ باستخدام خدمة ويب Ollama المحلية:

• في نافذة طرفية، أدخِل الأمر التالي:

  curl http://localhost:11434/api/generate -d '{\
        "model": "gemma4",\
        "prompt":"roses are red"\
  }'
  

• أدرِج قائمة بالصور المرمّزة باستخدام base64 لاستخدام إدخال مرئي:

  curl http://localhost:11434/api/generate -d '{\
        "model": "gemma4",\
        "prompt":"caption this image",\
        "images":[...]\
  }'
  

نماذج Gemma المعدَّلة

توفّر Ollama مجموعة من إصدارات نماذج Gemma الرسمية للاستخدام الفوري، وهي مكمَّمة ومحفوظة بتنسيق GGUF. يمكنك استخدام نماذج Gemma المعدَّلة الخاصة بك مع Ollama عن طريق تحويلها إلى تنسيق GGUF. يتضمّن Ollama بعض الدوال لتحويل النماذج المعدَّلة من تنسيق Modelfile إلى GGUF. لمزيد من المعلومات حول كيفية تحويل النموذج المعدَّل إلى GGUF، اطّلِع على ملف Ollama README.

الخطوات التالية

بعد تشغيل Gemma باستخدام Ollama، يمكنك البدء في تجربة الحلول وإنشائها باستخدام إمكانات الذكاء الاصطناعي التوليدي في Gemma. يمكن أن تكون واجهة سطر الأوامر في Ollama مفيدة لإنشاء حلول البرمجة النصية. يمكن أن تكون واجهة خدمة ويب Ollama المحلية مفيدة لإنشاء تطبيقات تجريبية وتطبيقات ذات استخدام منخفض.

• حاوِل إجراء عملية دمج باستخدام خدمة ويب Ollama لإنشاء مساعد رمز شخصي يتم تشغيله محليًا .
• تعرَّف على كيفية إجراء عملية الضبط الدقيق لنموذج Gemma.
• تعرَّف على كيفية تشغيل Gemma باستخدام Ollama باستخدام خدمات Google Cloud Run.
• تعرَّف على كيفية تشغيل Gemma باستخدام Google Cloud.