ShieldGemma ist eine Reihe von vorgefertigten, anhand von Anleitungen optimierten Sicherheitsklassifikatoren mit offenen Gewichten, die auf der Gemma-Modellfamilie basieren und feststellen, ob Text oder Bilder bei Eingabe und Ausgabe gegen eine Sicherheitsrichtlinie verstoßen. ShieldGemma ist darauf trainiert, wichtige Schäden in verschiedenen Modellen zu erkennen. Weitere Informationen finden Sie auf den Modellkarten.
- ShieldGemma 2 für die Moderation von Bildinhalten: Verfügbar in 4B. Weitere Informationen finden Sie auf der Modellkarte.
- ShieldGemma 1 für die Moderation von Textinhalten: Verfügbar in den Versionen 2B, 9B und 27B. So können Sie Geschwindigkeit, Leistung und Allgemeingültigkeit an Ihre Anforderungen bei jeder Bereitstellung anpassen. Weitere Informationen finden Sie auf der Modellkarte.
Modelle mit ShieldGemma schützen
 Bildermoderation: ShieldGemma 2 in Transformers
|
Text moderation: ShieldGemma in Transformers
|
Text moderation: ShieldGemma in Keras
|
Sie können ShieldGemma-Modelle in den folgenden Frameworks verwenden.
- KerasNLP, mit Modell-Checkpunkten, die bei Kaggle verfügbar sind.
- Hugging Face Transformers mit Modell-Checkpunkten, die im Hugging Face Hub verfügbar sind.