O Gemma Scope é uma ferramenta de pesquisa para analisar e compreender o funcionamento interno dos Modelos de IA generativa Gemma 2. A ferramenta permite examinar o comportamento de cada camadas de modelo de modelos Gemma 2, enquanto o modelo processa solicitações. Os pesquisadores podem aplicar essa técnica para examinar e ajudar a abordar questões críticas como alucinações, vieses e manipulação, levando a sistemas de IA mais seguros e confiáveis.

Essa ferramenta fornece aos pesquisadores um conjunto de codificadores automáticos esparsos para a análise atributos e representações aprendidos pelo Gemma 2 base de modelos de machine learning. Você usa a ferramenta instrumentando um modelo Gemma 2 com os codificadores automáticos fornecidos, que permitem examinar o comportamento de camadas individuais de modelos de IA e processar solicitações. Para mais informações sobre como analisar modelos Gemma 2 com este , consulte a Gemma Guia do escopo.