הגדרה של Gemma מהגרסה הקודמת

בדף הזה מוסבר איך להגדיר את השימוש ב-Gemma ב-Colab. חלק מההוראות רלוונטיות גם לסביבות פיתוח אחרות.

גישה ל-Gemma

לפני שמשתמשים ב-Gemma בפעם הראשונה, צריך לבקש גישה למודל דרך Kaggle. במסגרת התהליך, תצטרכו להשתמש בחשבון Kaggle כדי לאשר את מדיניות השימוש ואת תנאי הרישיון של Gemma.

אם עדיין אין לכם חשבון Kaggle, אתם יכולים להירשם בכתובת kaggle.com. לאחר מכן, מבצעים את השלבים הבאים:

  1. עוברים אל כרטיס המודל של Gemma ולוחצים על בקשת גישה.
  2. ממלאים את טופס ההסכמה ומאשרים את התנאים וההגבלות.

בחירת סביבת ריצה של Colab

כדי להשלים הדרכה ב-Colab, צריך סביבת זמן ריצה ב-Colab עם מספיק משאבים להרצת מודל Gemma. כדי להתחיל, אפשר להשתמש ב-GPU מסוג T4:

  1. בפינה השמאלית העליונה של חלון Colab, לוחצים על ▾ (אפשרויות נוספות לחיבור).
  2. בוחרים באפשרות שינוי הסוג של סביבת זמן הריצה.
  3. בקטע Hardware accelerator (שיפור המהירות באמצעות חומרה), בוחרים באפשרות T4 GPU.

הגדרת מפתח API

כדי להשתמש ב-Gemma, צריך לספק את שם המשתמש שלכם ב-Kaggle ומפתח API של Kaggle. כדי ליצור ולהגדיר את הערכים האלה, פועלים לפי השלבים הבאים:

  1. כדי ליצור מפתח Kaggle API, עוברים לכרטיסייה Account בפרופיל המשתמש ב-Kaggle ובוחרים באפשרות Create New Token. הפעולה הזו תפעיל את ההורדה של קובץ kaggle.json שמכיל את פרטי הכניסה שלכם ל-API.

  2. פותחים את kaggle.json בכלי לעריכת טקסט. התוכן צריך להיראות בערך כך:

    {"username":"your_username","key":"012345678abcdef012345678abcdef1a"}

  3. ב-Colab, בוחרים באפשרות Secrets (סודות) (🔑) ומוסיפים את שם המשתמש שלכם ב-Kaggle ואת מפתח ה-API של Kaggle. מאחסנים את שם המשתמש בשם KAGGLE_USERNAME ואת מפתח ה-API בשם KAGGLE_KEY.

עכשיו אפשר להשלים את שאר שלבי ההגדרה ב-Colab. אם אתם עובדים עם מדריך של Colab, אתם צריכים לעבור אל Colab ולהגדיר את משתני הסביבה.