ShieldGemma — это набор готовых, настроенных с помощью инструкций моделей классификаторов контента с открытыми весами, построенных на Gemma 2 , которые могут определять, нарушает ли предоставленный пользователем, созданный моделью или смешанный контент политику безопасности контента. ShieldGemma обучена выявлять четыре вреда — контент сексуального характера, опасный контент, преследование и разжигание ненависти — и поставляется в трех вариантах размера — параметры 2B, 9B и 27B, — которые позволяют вам сбалансировать скорость, производительность и возможность обобщения в соответствии с вашими потребностями. в любом развертывании. Дополнительную информацию о разнице между этими вариантами см. на карточке модели .
Защитите свои модели с помощью ShieldGemma
 Запустите Google Colab (Керас) | Запустите Google Colab (Трансформеры) |
Вы можете использовать модели ShieldGemma в следующих средах.
- KerasNLP , с контрольными точками модели, доступными на Kaggle . Чтобы начать, ознакомьтесь с ShieldGemma в Keras Colab .
- Hugging Face Transformers с контрольными точками модели, доступными в Hugging Face Hub . Чтобы начать, ознакомьтесь с ShieldGemma в Transformers Colab .