ShieldGemma ist eine Reihe von vorgefertigten, anhand von Anleitungen optimierten Sicherheitsklassifikatoren mit offenen Gewichten, die auf der Gemma-Modellfamilie basieren und feststellen, ob Text oder Bilder bei Eingabe und Ausgabe gegen eine Sicherheitsrichtlinie verstoßen.
ShieldGemma ist darauf trainiert, wichtige Schäden in verschiedenen Modellen zu erkennen. Weitere Informationen finden Sie auf den Modellkarten.
ShieldGemma 2 für die Moderation von Bildinhalten: Verfügbar in 4B. Weitere Informationen finden Sie auf der Modellkarte.
ShieldGemma 1 für die Moderation von Textinhalten: Verfügbar in den Versionen 2B, 9B und 27B. So können Sie Geschwindigkeit, Leistung und Allgemeingültigkeit an Ihre Anforderungen bei jeder Bereitstellung anpassen. Weitere Informationen finden Sie auf der Modellkarte.
[[["Leicht verständlich","easyToUnderstand","thumb-up"],["Mein Problem wurde gelöst","solvedMyProblem","thumb-up"],["Sonstiges","otherUp","thumb-up"]],[["Benötigte Informationen nicht gefunden","missingTheInformationINeed","thumb-down"],["Zu umständlich/zu viele Schritte","tooComplicatedTooManySteps","thumb-down"],["Nicht mehr aktuell","outOfDate","thumb-down"],["Problem mit der Übersetzung","translationIssue","thumb-down"],["Problem mit Beispielen/Code","samplesCodeIssue","thumb-down"],["Sonstiges","otherDown","thumb-down"]],["Zuletzt aktualisiert: 2025-03-24 (UTC)."],[],[],null,["# ShieldGemma\n\n\u003cbr /\u003e\n\n[ShieldGemma](/gemma/docs/shieldgemma) is a set of ready-made, instruction-tuned, open\nweights safety classifiers built on the Gemma family of models to determine\nwhether text or images violate a safety policy across input and output.\nShieldGemma is trained to identify across key harms across different models, see\nthe model cards for more information.\n\n- ShieldGemma 2 for image content moderation: Available in 4B. See the [model card](/gemma/docs/shieldgemma/model_card_2) for more details.\n- ShieldGemma 1 for text content moderation: Available in 2B, 9B, and 27B---allowing you to balance speed, performance, and generalizability to suit your needs across any deployment. See the [model card](/gemma/docs/shieldgemma/model_card) for more details.\n\n| **Note:** While ShieldGemma is trained on key harms, it may be generalizable to other harms related to your use case. It's important to experiment and regularly assess how well ShieldGemma fits your needs.\n\n**Safeguard your models with ShieldGemma**\n\n|---|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|\n| | [Image moderation: ShieldGemma 2 in Transformers](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma2_on_huggingface.ipynb) | [Text moderation: ShieldGemma in Transformers](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma_on_huggingface.ipynb) | [Text moderation: ShieldGemma in Keras](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma_on_keras.ipynb) |\n\n\u003cbr /\u003e\n\nYou can use ShieldGemma models in the following frameworks.\n\n- [KerasNLP](https://keras.io/keras_nlp/), with model checkpoints available from [Kaggle](https://www.kaggle.com/search?q=shieldgemma+in%3Amodels).\n- [Hugging Face Transformers](https://github.com/huggingface/transformers), with model checkpoints available from [Hugging Face Hub](https://huggingface.co/collections/google/shieldgemma-release-66a20efe3c10ef2bd5808c79)."]]
Bildermoderation: ShieldGemma 2 in Transformers