ShieldGemma adalah sekumpulan pengklasifikasi keamanan bobot terbuka yang siap pakai dan disesuaikan dengan petunjuk, yang dibuat berdasarkan model keluarga Gemma untuk menentukan apakah teks atau gambar melanggar kebijakan keamanan di seluruh input dan output. ShieldGemma dilatih untuk mengidentifikasi berbagai bahaya utama di berbagai model. Lihat kartu model untuk mengetahui informasi selengkapnya.
- ShieldGemma 2 untuk moderasi konten gambar: Tersedia di 4B. Lihat kartu model untuk detail selengkapnya.
- ShieldGemma 1 untuk moderasi konten teks: Tersedia dalam 2B, 9B, dan 27B—memungkinkan Anda menyeimbangkan kecepatan, performa, dan generalisasi agar sesuai dengan kebutuhan Anda di seluruh deployment. Lihat kartu model untuk detail selengkapnya.
Menjaga keamanan model Anda dengan ShieldGemma
 Moderasi gambar: ShieldGemma 2 di Transformers
|
Moderasi teks: ShieldGemma di Transformers
|
Moderasi teks: ShieldGemma di Keras
|
Anda dapat menggunakan model ShieldGemma dalam framework berikut.
- KerasNLP, dengan titik pemeriksaan model yang tersedia dari Kaggle.
- Hugging Face Transformers, dengan checkpoint model yang tersedia dari Hugging Face Hub.