Gemma Scope adalah alat riset untuk menganalisis dan memahami cara kerja internal model AI generatif Gemma 2. Alat ini memungkinkan Anda memeriksa perilaku setiap lapisan model AI dari model Gemma 2, saat model memproses permintaan. Peneliti dapat menerapkan teknik ini untuk memeriksa dan membantu mengatasi masalah penting seperti halusinasi, bias, dan manipulasi, yang pada akhirnya menghasilkan sistem AI yang lebih aman dan tepercaya.

Alat ini menyediakan serangkaian autoencoder sparse bagi peneliti untuk memeriksa fitur dan representasi yang dipelajari oleh model inti Gemma 2. Anda menggunakan alat ini dengan melengkapi model Gemma 2 dengan autoencoder yang disediakan, yang memungkinkan Anda memeriksa perilaku setiap lapisan model AI, saat memproses permintaan. Untuk informasi selengkapnya tentang cara menganalisis model Gemma 2 dengan alat ini, lihat Panduan Cakupan Gemma.