Gemma Scope es una herramienta de investigación para analizar y comprender el funcionamiento interno de los modelos de IA generativa de Gemma 2. La herramienta te permite examinar el comportamiento de las capas individuales de modelos de IA de los modelos de Gemma 2 mientras el modelo procesa las solicitudes. Los investigadores pueden aplicar esta técnica para examinar y ayudar a abordar preocupaciones críticas, como alucinaciones, sesgos y manipulación, lo que, en última instancia, conduce a sistemas de IA más seguros y confiables.

Esta herramienta proporciona a los investigadores un conjunto de autoencoders dispersos para examinar las funciones y representaciones que aprenden los modelos principales de Gemma 2. Para usar la herramienta, instrumenta un modelo de Gemma 2 con los autoencoders proporcionados, que te permiten examinar el comportamiento de las capas individuales del modelo de IA mientras se procesan las solicitudes. Para obtener más información sobre cómo analizar modelos de Gemma 2 con esta herramienta, consulta la Guía de alcance de Gemma.