תחילת העבודה עם מודלים של Gemma

משפחת המודלים הפתוחים של Gemma כוללת מגוון גדלים, יכולות ווריאציות של מודלים שמתמחים במשימות ספציפיות, כדי לעזור לכם ליצור פתרונות גנרטיביים בהתאמה אישית. אלה הנתיבים העיקריים שאפשר לפעול לפיהם כשמשתמשים במודלים של Gemma באפליקציה:

• בוחרים מודל ופורסים אותו כמו שהוא באפליקציה
• בוחרים מודל, מכווננים אותו למשימה ספציפית ואז פורסים אותו באפליקציה או משתפים אותו עם הקהילה.

במדריך הזה נסביר איך לבחור מודל, לבדוק את היכולות שלו, ואם רוצים, לשפר את המודל שנבחר כדי שיתאים לאפליקציה שלכם.

להורדה מ-Kaggle להורדה מ-Hugging Face

בחירת מודל

בקטע הזה מוסבר על הגרסאות הרשמיות של משפחת מודלים Gemma, ואיך לבחור מודל לאפליקציה. הווריאציות של המודלים מספקות יכולות כלליות או מתמחות במשימות ספציפיות, והן זמינות בגדלים שונים של פרמטרים, כך שתוכלו לבחור מודל עם היכולות המועדפות עליכם שעומד בדרישות החישוב שלכם.

רשימת דגמי Gemma

בטבלה הבאה מפורטים הווריאציות העיקריות של משפחת מודלים Gemma ופלטפורמות הפריסה המיועדות שלהן:

משפחת המודלים של Gemma כוללת גם מודלים למטרות מיוחדות ומודלים למחקר, כולל ShieldGemma,‏ DataGemma,‏ Gemma Scope ו-Gemma-APS.

בדיקת מודלים

כדי לבדוק את מודלי Gemma, צריך להגדיר סביבת פיתוח עם מודל שהורד ותוכנה תומכת. אחר כך תוכלו לתת הנחיות למודל ולהעריך את התשובות שלו. כדי להגדיר סביבת בדיקה ולהנחות מודל Gemma, אפשר להשתמש באחד מ-notebooks הבאים של Python עם מסגרת הלמידה הממוחשבת המועדפת:

• הסקת מסקנות באמצעות Keras
• הסקת מסקנות עם PyTorch
• הסקת מסקנות באמצעות ספריית Gemma

התאמת מודלים

אתם יכולים לשנות את ההתנהגות של מודלים של Gemma על ידי ביצוע כוונון שלהם. כדי לשפר את המודל צריך מערך נתונים של תשומות ותשובות צפויות בגודל מספיק ובמגוון מספיק כדי להנחות את התנהגות המודל. בנוסף, כדי להשלים תהליך כוונון צריך הרבה יותר משאבי מחשוב וזיכרון בהשוואה להרצת מודל Gemma ליצירת טקסט. כדי להגדיר סביבת פיתוח לשיפור מודל Gemma ולשפר אותו, אפשר להשתמש באחד ממחברות Python הבאות:

• שיפור הביצועים של Gemma באמצעות Keras ושיפור ביצועים של LoRA
• שיפור מודלים גדולים יותר של Gemma באמצעות אימון מבוזר

השלבים הבאים

כדאי לעיין במדריכים הבאים כדי לקבל מידע על פתרונות נוספים שאפשר ליצור באמצעות Gemma:

• יצירת צ'אטבוט באמצעות Gemma
• הטמעה של Gemma בסביבת ייצור באמצעות Vertex AI
• שימוש ב-Genkit עם Ollama ו-Gemma