ShieldGemma — это набор готовых, настроенных с помощью инструкций классификаторов безопасности с открытыми весами, созданных на основе семейства моделей Gemma для определения того, нарушают ли текст или изображения политику безопасности при вводе и выводе. ShieldGemma обучена выявлять основные вредные факторы в различных моделях. Дополнительную информацию см. в карточках моделей.
- ShieldGemma 2 для модерации контента изображений: доступен в версии 4B. Более подробную информацию смотрите в карточке модели .
- ShieldGemma 1 для модерации текстового контента: доступен в версиях 2B, 9B и 27B, что позволяет вам сбалансировать скорость, производительность и возможность обобщения в соответствии с вашими потребностями в любом развертывании. Более подробную информацию смотрите в карточке модели .
Защитите свои модели с помощью ShieldGemma
 Модерация изображения: ShieldGemma 2 в Трансформерах | Текстовая модерация: ShieldGemma в Трансформерах | Текстовая модерация: ShieldGemma в Keras |
Вы можете использовать модели ShieldGemma в следующих средах.
- KerasNLP , с контрольными точками модели, доступными на Kaggle .
- Hugging Face Transformers с контрольными точками модели, доступными в Hugging Face Hub .