ShieldGemma הוא קבוצה של מסווגי בטיחות מוכנים מראש עם משקלים פתוחים שמותאמים להוראות, שמבוססים על משפחת המודלים Gemma. המסווגים האלה משמשים לקביעת אם טקסט או תמונות מפירים מדיניות בטיחות בכל הקלט והפלט.
ShieldGemma מאומנת לזהות נזקים מרכזיים במודלים שונים. מידע נוסף זמין בכרטיסי המודלים.
ShieldGemma 2 לניהול תוכן תמונות: זמין ב-4B. פרטים נוספים זמינים בכרטיס המודל.
ShieldGemma 1 לניהול תוכן טקסט: זמין ב-2B, ב-9B וב-27B, ומאפשר לכם לאזן בין מהירות, ביצועים ויכולת הכללה בהתאם לצרכים שלכם בכל פריסה. פרטים נוספים זמינים בכרטיס המודל.
[[["התוכן קל להבנה","easyToUnderstand","thumb-up"],["התוכן עזר לי לפתור בעיה","solvedMyProblem","thumb-up"],["סיבה אחרת","otherUp","thumb-up"]],[["חסרים לי מידע או פרטים","missingTheInformationINeed","thumb-down"],["התוכן מורכב מדי או עם יותר מדי שלבים","tooComplicatedTooManySteps","thumb-down"],["התוכן לא עדכני","outOfDate","thumb-down"],["בעיה בתרגום","translationIssue","thumb-down"],["בעיה בדוגמאות/בקוד","samplesCodeIssue","thumb-down"],["סיבה אחרת","otherDown","thumb-down"]],["עדכון אחרון: 2025-03-24 (שעון UTC)."],[],[],null,["# ShieldGemma\n\n\u003cbr /\u003e\n\n[ShieldGemma](/gemma/docs/shieldgemma) is a set of ready-made, instruction-tuned, open\nweights safety classifiers built on the Gemma family of models to determine\nwhether text or images violate a safety policy across input and output.\nShieldGemma is trained to identify across key harms across different models, see\nthe model cards for more information.\n\n- ShieldGemma 2 for image content moderation: Available in 4B. See the [model card](/gemma/docs/shieldgemma/model_card_2) for more details.\n- ShieldGemma 1 for text content moderation: Available in 2B, 9B, and 27B---allowing you to balance speed, performance, and generalizability to suit your needs across any deployment. See the [model card](/gemma/docs/shieldgemma/model_card) for more details.\n\n| **Note:** While ShieldGemma is trained on key harms, it may be generalizable to other harms related to your use case. It's important to experiment and regularly assess how well ShieldGemma fits your needs.\n\n**Safeguard your models with ShieldGemma**\n\n|---|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|\n| | [Image moderation: ShieldGemma 2 in Transformers](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma2_on_huggingface.ipynb) | [Text moderation: ShieldGemma in Transformers](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma_on_huggingface.ipynb) | [Text moderation: ShieldGemma in Keras](https://colab.research.google.com/github/google/generative-ai-docs/blob/main/site/en/responsible/docs/safeguards/shieldgemma_on_keras.ipynb) |\n\n\u003cbr /\u003e\n\nYou can use ShieldGemma models in the following frameworks.\n\n- [KerasNLP](https://keras.io/keras_nlp/), with model checkpoints available from [Kaggle](https://www.kaggle.com/search?q=shieldgemma+in%3Amodels).\n- [Hugging Face Transformers](https://github.com/huggingface/transformers), with model checkpoints available from [Hugging Face Hub](https://huggingface.co/collections/google/shieldgemma-release-66a20efe3c10ef2bd5808c79)."]]
ניהול תמונות: ShieldGemma 2 ב-Transformers