היקף הרשאות Gemma

Gemma Scope הוא כלי מחקר לניתוח ולהבנה של האופן שבו פועלים המודלים של AI הגנרטיבי של Gemma 2. הכלי מאפשר לבדוק את ההתנהגות של שכבות בודדות של מודל AI במודלים של Gemma 2, בזמן שהמודל מעבד בקשות. החוקרים יכולים להשתמש בטכניקה הזו כדי לבדוק בעיות קריטיות כמו הזיות, הטיות מניפולציה, ולעזור לטפל בהן, וכך בסופו של דבר לפתח מערכות AI בטוחות ואמינות יותר.

הכלי הזה מספק לחוקרים חבילה של מקודדים אוטומטיים דלילים לבדיקה של המאפיינים והייצוגים שנלמדו על ידי המודלים המרכזיים של Gemma 2. כדי להשתמש בכלי, צריך להוסיף למדגם של Gemma 2 את ה-autoencoders שסופקו, שמאפשרים לבדוק את ההתנהגות של שכבות ספציפיות במודל ה-AI בזמן עיבוד הבקשות. מידע נוסף על ניתוח מודלים של Gemma 2 באמצעות הכלי הזה זמין במדריך Gemma Scope.

  • הערכת התנהגות המודל

    הערכת ההתנהגות המדויקת של מודלים של Gemma 2 באמצעות ניתוח ברמת השכבה.

  • שינוי ההתנהגות של מודל Gemma

    אפשר להשתמש בהיקף Gemma כדי לשנות את השכבות של המודל ולהעריך את ההשפעה על ההתנהגות הכוללת של המודל.

מידע נוסף

מידע נוסף על המטרה והיכולות של Gemma Scope.
הצגת קוד, קובצי notebook, מידע ודיונים לגבי היקף Gemma.

הפעלה ב-Colab

מריצים דוגמה פעילה לבדיקות Scope של Gemma לצורך הערכת מודלים של Gemma 2.