Gemma Scope הוא כלי מחקר לניתוח והבנה של העקרונות הפנימיים של מודלים של בינה מלאכותית גנרטיבית ב-Gemma 2. הכלי מאפשר לבחון את ההתנהגות של כל סוג של בינה מלאכותית של מודלים של Gemma 2, בזמן שהמודל מעבד בקשות. החוקרים יכולים ליישם את הטכניקה הזו כדי לבדוק ולטפל בבעיות קריטיות כמו תגובות לא תואמות נתונים (hallucination), הטיות ומניפולציות, שבסופו של דבר מובילות למערכות AI בטוחות ואמינות יותר.

הכלי מספק לחוקרים חבילה של מקודדים אוטומטיים חלשים לבדיקה של וייצוגים שנלמדו על ידי בסיס Gemma 2 למשימות ספציפיות. משתמשים בכלי על ידי אינסטרומנטציה של Gemma 2 עם המקודדים האוטומטיים שסופקו, שמאפשר לבחון את ההתנהגות של שכבות בודדות של מודל AI, בקשות. למידע נוסף על ניתוח מודלים של Gemma 2 באמצעות בכלי, קראו את Gemma מדריך להיקף ההרשאות.