Gemma Scope est un outil de recherche permettant d'analyser et de comprendre le fonctionnement interne des modèles d'IA générative Gemma 2. L'outil vous permet d'examiner le comportement des couches de modèle d'IA individuelles des modèles Gemma 2, pendant que le modèle traite les requêtes. Les chercheurs peuvent appliquer cette technique pour examiner et aider à résoudre des problèmes critiques tels que les hallucinations, les biais et la manipulation, ce qui conduit à des systèmes d'IA plus sûrs et plus fiables.

Cet outil fournit aux chercheurs une suite d'autoencodeurs à faible densité pour examiner les caractéristiques et les représentations apprises par les modèles de base Gemma 2. Pour utiliser l'outil, vous devez instrumenter un modèle Gemma 2 avec les autoencodeurs fournis, qui vous permettent d'examiner le comportement de chaque couche de modèle d'IA, tout en traitant les requêtes. Pour en savoir plus sur l'analyse des modèles Gemma 2 avec cet outil, consultez le guide de portée Gemma.