ShieldGemma là một tập hợp các mô hình được điều chỉnh theo hướng dẫn để đánh giá mức độ an toàn của câu lệnh dạng văn bản phản hồi đầu vào và đầu ra bằng văn bản dựa trên một tập hợp các chính sách an toàn đã xác định. Bạn có thể sử dụng mô hình này là một phần trong quá trình triển khai rộng rãi hơn một ứng dụng AI tạo sinh nhằm giúp đánh giá và ngăn chặn các ứng dụng AI tạo sinh vi phạm chính sách về an toàn.

Các mô hình ShieldGemma được xây dựng dựa trên Gemma 2 ở 2B, 9B và Kích thước tham số là 27 tỷ. Mô hình này có trọng lượng mở để bạn có thể tinh chỉnh mô hình đó cho trường hợp sử dụng cụ thể của bạn. Tập hợp mô hình và mã triển khai mẫu này là thành phần của thuộc tính Bộ công cụ AI tạo sinh có trách nhiệm.