Gemma Scope est un outil de recherche permettant d'analyser et de comprendre le fonctionnement interne du modèles d'IA générative Gemma 2. Cet outil vous permet d'examiner le comportement de chaque IA les couches du modèle Gemma 2, pendant que le modèle traite les requêtes. Les chercheurs peuvent appliquer cette technique pour examiner et répondre à des préoccupations critiques telles que les hallucinations, les biais et la manipulation, qui, à terme, conduisent à des systèmes d'IA plus sûrs et plus fiables.

Cet outil fournit aux chercheurs une suite d'auto-encodeurs creux permettant d'examiner le caractéristiques et représentations apprises par la base Gemma 2 des modèles de ML. Pour utiliser cet outil, vous instrumentez un modèle Gemma 2 avec les auto-encodeurs fournis. qui vous permettent d'examiner le comportement de chaque couche de modèle d'IA requêtes. Pour en savoir plus sur l'analyse des modèles Gemma 2 avec cette consultez la Gemma Guide relatif aux champs d'application.