ShieldGemma là một tập hợp các mô hình được điều chỉnh theo hướng dẫn để đánh giá mức độ an toàn của văn bản và hình ảnh dựa trên một bộ chính sách an toàn đã xác định. Bạn có thể sử dụng mô hình này trong quá trình triển khai ứng dụng AI tạo sinh trên quy mô lớn hơn để giúp đánh giá và ngăn chặn các ứng dụng AI tạo sinh vi phạm chính sách về an toàn. Nhóm mô hình ShieldGemma được cung cấp trọng số mở để cho phép bạn tinh chỉnh mô hình đó cho trường hợp sử dụng cụ thể của mình.

ShieldGemma 2 là mô hình tham số 4B được tạo để gắn nhãn hình ảnh nhằm đảm bảo an toàn.