Ruang Lingkup Gemma adalah alat penelitian untuk menganalisis dan memahami cara kerja bagian dalam Model AI generatif Gemma 2. Alat ini memungkinkan Anda memeriksa perilaku setiap AI lapisan model dari model Gemma 2, sementara model tersebut memproses permintaan. Peneliti dapat menerapkan teknik ini untuk memeriksa dan membantu mengatasi masalah kritis seperti halusinasi, bias data, dan manipulasi, yang pada akhirnya mengarah pada sistem AI yang lebih aman dan tepercaya.

Alat ini memberi para peneliti serangkaian autoencoder sparse untuk memeriksa fitur dan representasi yang dipelajari oleh dasar Gemma 2 jaringan. Anda dapat menggunakan alat ini dengan melengkapi model Gemma 2 dengan autoencoder yang disediakan, yang memungkinkan Anda memeriksa perilaku setiap lapisan model AI, saat memproses permintaan. Untuk mengetahui informasi selengkapnya tentang cara menganalisis model Gemma 2 dengan , lihat Gemma Panduan cakupan.