ShieldGemma, पहले से तैयार, निर्देशों के हिसाब से ट्यून किए गए, और ओपन वज़न वाले सेफ़्टी क्लासिफ़ायर का एक सेट है. इसे Gemma फ़ैमिली के मॉडल के आधार पर बनाया गया है. इससे यह पता चलता है कि इनपुट और आउटपुट में मौजूद टेक्स्ट या इमेज, सुरक्षा से जुड़ी नीति का उल्लंघन करती हैं या नहीं. ShieldGemma को अलग-अलग मॉडल में होने वाले मुख्य नुकसानों की पहचान करने के लिए ट्रेन किया गया है. ज़्यादा जानकारी के लिए, मॉडल कार्ड देखें.
- इमेज कॉन्टेंट को मॉडरेट करने के लिए ShieldGemma 2: यह 4B में उपलब्ध है. ज़्यादा जानकारी के लिए, मॉडल कार्ड देखें.
- टेक्स्ट कॉन्टेंट को मॉडरेट करने के लिए ShieldGemma 1: यह 2B, 9B, और 27B में उपलब्ध है. इससे आपको किसी भी डिप्लॉयमेंट में अपनी ज़रूरतों के हिसाब से, स्पीड, परफ़ॉर्मेंस, और सामान्यता को संतुलित करने में मदद मिलती है. ज़्यादा जानकारी के लिए, मॉडल कार्ड देखें.
ShieldGemma की मदद से अपने मॉडल को सुरक्षित रखना
 इमेज मॉडरेशन: Transformers में ShieldGemma 2
|
टेक्स्ट मॉडरेशन: Transformers में ShieldGemma
|
टेक्स्ट मॉडरेशन: Keras में ShieldGemma
|
ShieldGemma मॉडल का इस्तेमाल, इन फ़्रेमवर्क में किया जा सकता है.
- KerasNLP, जिसमें Kaggle से मॉडल के चेकपॉइंट उपलब्ध हैं.
- Hugging Face Transformers, जिनके मॉडल के चेकपॉइंट Hugging Face Hub से उपलब्ध हैं.