Gemma Scope es una herramienta de investigación para analizar y comprender el funcionamiento interno de la Modelos de IA generativa de Gemma 2. que te permite examinar el comportamiento de una IA individual capas de modelo de modelos de Gemma 2, mientras el modelo procesa solicitudes. Los investigadores aplica esta técnica para examinar y ayudar a abordar problemas críticos como alucinaciones, los sesgos y la manipulación, lo que, en última instancia, lleva a sistemas de IA más seguros y confiables.

Esta herramienta ofrece a los investigadores un conjunto de codificadores automáticos dispersos para el examen funciones y representaciones aprendidas por la base Gemma 2 e implementar modelos automáticamente. Para usar la herramienta, debes instrumentar un modelo de Gemma 2 con los codificadores automáticos proporcionados. que permiten examinar el comportamiento de capas individuales del modelo de IA, mientras se procesan solicitudes. Para obtener más información sobre cómo analizar los modelos de Gemma 2 con esta de Cloud, consulta la Gemma Guía de alcance.