Gemma Scope là một công cụ nghiên cứu để phân tích và tìm hiểu cách hoạt động bên trong của các mô hình AI tạo sinh Gemma 2. Công cụ này cho phép bạn kiểm tra hành vi của từng lớp mô hình AI của mô hình Gemma 2, trong khi mô hình đang xử lý các yêu cầu. Các nhà nghiên cứu có thể áp dụng kỹ thuật này để kiểm tra và giúp giải quyết các mối lo ngại quan trọng như ảo giác, thiên kiến và hành vi thao túng, cuối cùng là tạo ra các hệ thống AI an toàn và đáng tin cậy hơn.

Công cụ này cung cấp cho các nhà nghiên cứu một bộ mã hoá tự động thưa thớt để kiểm tra các tính năng và bản trình bày do các mô hình cốt lõi Gemma 2 học được. Bạn sử dụng công cụ này bằng cách đo lường mô hình Gemma 2 bằng các bộ tự mã hoá được cung cấp, cho phép bạn kiểm tra hành vi của từng lớp mô hình AI trong khi xử lý các yêu cầu. Để biết thêm thông tin về cách phân tích mô hình Gemma 2 bằng công cụ này, hãy xem Hướng dẫn về phạm vi Gemma.