ShieldGemma là một bộ mô hình phân loại nội dung trọng số mở, được điều chỉnh theo hướng dẫn, tạo sẵn, được xây dựng trên Gemma 2. Bộ mô hình này có thể xác định xem nội dung do người dùng cung cấp, do mô hình tạo hoặc nội dung hỗn hợp có vi phạm chính sách về an toàn nội dung hay không. ShieldGemma được huấn luyện để xác định 4 loại nội dung gây hại (nội dung tình dục, nội dung nguy hiểm, hành vi quấy rối và ngôn từ kích động thù địch) và có 3 biến thể kích thước (các tham số 2B, 9B và 27B) cho phép bạn cân bằng tốc độ, hiệu suất và khả năng khái quát để phù hợp với nhu cầu của mình trong mọi trường hợp triển khai. Xem thẻ mô hình để biết thêm về sự khác biệt giữa các biến thể.
Bảo vệ các mô hình của bạn bằng ShieldGemma
 Bắt đầu Google Colab (Keras)
|
Bắt đầu Google Colab (Transformers)
|
Bạn có thể sử dụng các mô hình ShieldGemma trong các khung sau.
- KerasNLP, có các điểm kiểm tra mô hình tại Kaggle. Xem ShieldGemma trong Keras Colab để bắt đầu.
- Hugging Face Transformers, với các điểm kiểm tra mô hình có sẵn trong Hugging Face Hub. Hãy xem ShieldGemma trong Transformers Colab để bắt đầu.