O Gemma Scope é uma ferramenta de pesquisa para analisar e entender o funcionamento interno dos modelos de IA generativa do Gemma 2. A ferramenta permite examinar o comportamento de camadas de modelos de IA individuais dos modelos Gemma 2 enquanto o modelo processa solicitações. Os pesquisadores podem aplicar essa técnica para examinar e ajudar a resolver problemas críticos, como alucinações, vieses e manipulação, levando a sistemas de IA mais seguros e confiáveis.

Essa ferramenta oferece aos pesquisadores um conjunto de autoencoders esparsos para examinar os recursos e as representações aprendidas pelos modelos principais da Gemma 2. Para usar a ferramenta, é necessário instrumentar um modelo do Gemma 2 com os autoencoders fornecidos, que permitem examinar o comportamento de camadas individuais do modelo de IA durante o processamento de solicitações. Para mais informações sobre como analisar modelos do Gemma 2 com essa ferramenta, consulte o guia de escopo do Gemma.