תחילת העבודה עם מודלים של Gemma

משפחת המודלים הפתוחים של Gemma כוללת מגוון גדלים, יכולות ווריאציות ספציפיות למשימה, כדי לעזור לכם לפתח פתרונות גנרטיביים מותאמים אישית. אלה הנתיבים העיקריים שאפשר להשתמש בהם כשמשתמשים במודלים של Gemma באפליקציה:

• בוחרים מודל ופורסים אותו כפי שהוא באפליקציה
• בוחרים מודל, מכווננים אותו למשימה ספציפית ואז פורסים אותו באפליקציה או משתפים אותו עם הקהילה.

המדריך הזה יעזור לכם להתחיל בבחירת מודל, בדיקת היכולות שלו וכוונון המודל שבחרתם לאפליקציה.

בחירת מודל

בקטע הזה נסביר על הגרסאות הרשמיות של משפחת המודלים של Gemma ולבחור מודל לאפליקציה. הווריאנטים של המודל מספקים יכולות כלליות או ייעודיות למשימות ספציפיות, והן מסופקות בגדלים שונים של פרמטרים, כך שתוכלו לבחור מודל עם היכולות המועדפות עליכם ושעונה על דרישות המחשוב שלכם.

רשימת מודלים של Gemma

בטבלה הבאה מפורטות הגרסאות העיקריות של משפחת המודלים של Gemma והיכולות ברמה הגבוהה שלהן:

אתם יכולים להוריד את כל הווריאציות הרשמיות של דגם Gemma מדגמי Kaggle.

לבדיקת המודלים

כדי לבדוק מודלים של Gemma, צריך להגדיר סביבת פיתוח עם מודל שהורדתם ועם תוכנה תומכת. לאחר מכן תוכלו לבקש למודל ולהעריך את התשובות שלו. כדי להגדיר סביבת בדיקה ולבקש מודל Gemma, אתם צריכים להשתמש באחד מקובצי ה-notebook הבאים של Python עם ה-framework המועדף עליכם ללמידת מכונה:

• הסקת מסקנות בעזרת Keras
• הסקת מסקנות בעזרת PyTorch
• הסקת מסקנות מ-JAX ו-Flatx

בדיקת Gemma 2 ב-AI Studio

אפשר לבדוק במהירות את Gemma 2 בלי להגדיר סביבת פיתוח באמצעות Google AI Studio. אפליקציית האינטרנט הזו מאפשרת לנסות הנחיות עם Gemma 2 ולהעריך את היכולות שלה.

כדי לנסות את Gemma 2 ב-Google AI Studio:

1. פותחים את AI Studio.

2. בחלונית Run settings מצד שמאל, בשדה Model, בוחרים מודל Gemma 2.

3. בחלק התחתון של החלונית המרכזית, מקלידים הנחיה ובוחרים באפשרות הפעלה.

למידע נוסף על השימוש ב-AI Studio תוכלו לעיין במדריך למתחילים של Google AI Studio.

כוונון מודלים

אפשר לשנות את ההתנהגות של מודלים של Gemma על ידי ביצוע כוונון שלהם. כדי לכוונן את המודל, יש צורך במערך נתונים של מקורות קלט ותגובות צפויות בגודל ובמגוון מספיק כדי להתפתח את המודל. כמו כן, נדרשים משאבי מחשוב וזיכרון רבים יותר להשלמת הרצת כוונון, בהשוואה להרצת מודל Gemma ליצירת טקסט. אפשר להגדיר סביבת פיתוח של כוונון ולכוונן מודל Gemma, באמצעות אחד מקובצי ה-notebook הבאים של Python:

• Tune Gemma עם כוונון של Keras ו-LoRA
• Tune Gemma עם JAX
• כוונון מודלים גדולים יותר של Gemma באמצעות אימון מבוזר

השלבים הבאים

כדאי לעיין במדריכים האלה ליצירת פתרונות נוספים באמצעות Gemma:

• יצירת צ'אט בוט באמצעות Gemma
• פריסת Gemma בסביבת ייצור באמצעות Vertex AI
• Firebase Genkit, Ollama ו-Gemma