Gemma Scope — это исследовательский инструмент для анализа и понимания внутренней работы генеративных моделей искусственного интеллекта Gemma 2. Инструмент позволяет исследовать поведение отдельных слоев модели ИИ моделей Gemma 2, пока модель обрабатывает запросы. Исследователи могут применять эту технику для изучения и решения критических проблем, таких как галлюцинации, предубеждения и манипуляции, что в конечном итоге приведет к созданию более безопасных и надежных систем искусственного интеллекта.

Этот инструмент предоставляет исследователям набор разреженных автокодировщиков для изучения функций и представлений, полученных с помощью базовых моделей Gemma 2 . Вы используете этот инструмент, оснастив модель Gemma 2 предоставленными автокодировщиками, которые позволяют вам исследовать поведение отдельных слоев модели ИИ при обработке запросов. Дополнительную информацию о том, как анализировать модели Gemma 2 с помощью этого инструмента, см. в руководстве Gemma Scope .