תחילת העבודה עם מודלים של Gemma

משפחת המודלים הפתוחים של Gemma כוללת מגוון גדלים, יכולות, וגרסאות ספציפיות שספציפיות למשימה, שיעזרו לכם ליצור פתרונות גנרטיביים בהתאמה אישית. אלה הנתיבים העיקריים שצריך לבצע כשמשתמשים במודלים של Gemma יישום:

• בוחרים מודל ופורסים אותו כפי שהוא באפליקציה
• בוחרים מודל, מתאימים אותו למשימה ספציפית ופורסים אותו באפליקציה או לשתף אותו עם הקהילה.

המדריך הזה יעזור לכם להתחיל בבחירת מודל ובדיקה את היכולות שלו, ואם כן, כוונון המודל שבחרתם את האפליקציה שלך.

בחירת מודל

בקטע הזה נסביר על הווריאציות הרשמיות של מודל Gemma משפחה ולבחור מודל לאפליקציה. הווריאנטים של המודל מספקים יכולות כלליות או שהוא מתמחה במשימות ספציפיות, ומקבלים אותן בגדלים שונים, כך שאפשר לבחור מודל ליכולות המחשוב שלך.

רשימת מודלים של Gemma

בטבלה הבאה מפורטות הווריאציות העיקריות של משפחת המודלים של Gemma פלטפורמות פריסה ייעודיות:

אפשר להוריד את כל הווריאציות הרשמיות של מודל Gemma מ- מודלים של Kaggle.

לבדיקת המודלים

כדי לבדוק מודלים של Gemma, צריך להגדיר סביבת פיתוח עם מודל שהורד והתוכנה שתומכת בו. אחרי זה אפשר לבקש מהמודל להעריך את התשובות שלו. משתמשים באחד מקובצי ה-notebook הבאים של Python עם הגדרה מועדפת של למידת מכונה להגדרת סביבת בדיקה מודל Gemma:

• הסקת מסקנות בעזרת Keras
• הסקת מסקנות בעזרת PyTorch
• הסקת מסקנות מ-JAX ו-Flatx

בדיקת Gemma 2 ב-AI Studio

אפשר לבדוק במהירות את Gemma 2 בלי להגדיר סביבת פיתוח באמצעות ב-Google AI Studio. אפליקציית האינטרנט הזו מאפשרת לנסות הנחיות עם Gemma 2 ולהעריך את היכולות שלו.

כדי לנסות את Gemma 2 ב-Google AI Studio:

1. פותחים את AI Studio.

2. בחלונית Run settings (הגדרות הפעלה) שבצד שמאל, בשדה Model, בוחרים מודל Gemma 2.

3. בחלק התחתון של החלונית המרכזית, מקלידים הנחיה ובוחרים באפשרות הפעלה.

למידע נוסף על השימוש ב-AI Studio, אפשר לעיין במאמר בנושא המדריך למתחילים של Google AI Studio.

כוונון מודלים

אפשר לשנות את ההתנהגות של מודלים של Gemma על ידי ביצוע כוונון שלהם. כוונון כדי להשתמש במודל נדרש מערך נתונים של קלט ותגובות צפויות בגודל מספק ווריאציות שונות כדי להנחות את אופן הפעולה של המודל. יהיה צורך גם בצורה משמעותית יותר משאבי מחשוב וזיכרון להשלמת הרצת כוונון בהשוואה להרצה מודל Gemma ליצירת טקסט. אפשר להשתמש באחד מקובצי ה-notebook הבאים של Python כדי לבצע את הפעולות הבאות: להגדיר סביבת פיתוח כוונון ולכוונן מודל Gemma:

• Tune Gemma עם כוונון של Keras ו-LoRA
• Tune Gemma עם JAX
• כוונון מודלים גדולים יותר של Gemma באמצעות אימון מבוזר

השלבים הבאים

כדאי לעיין במדריכים האלה ליצירת פתרונות נוספים באמצעות Gemma:

• יצירת צ'אט בוט באמצעות Gemma
• פריסת Gemma בסביבת ייצור באמצעות Vertex AI
• Firebase Genkit, Ollama ו-Gemma