ShieldGemma es un conjunto de clasificadores de seguridad de pesos abiertos, listos para usar y ajustados a las instrucciones, compilados en la familia de modelos de Gemma para determinar si el texto o las imágenes incumplen una política de seguridad en las entradas y salidas. ShieldGemma está entrenado para identificar daños clave en diferentes modelos. Consulta las tarjetas de modelo para obtener más información.
- ShieldGemma 2 para la moderación de contenido de imágenes: Disponible en 4B. Consulta la tarjeta de modelo para obtener más detalles.
- ShieldGemma 1 para la moderación de contenido de texto: Disponible en 2B, 9B y 27B, lo que te permite equilibrar la velocidad, el rendimiento y la generalización para satisfacer tus necesidades en cualquier implementación. Consulta la tarjeta de modelo para obtener más detalles.
Protege tus modelos con ShieldGemma
 Moderación de imágenes: ShieldGemma 2 en Transformers
|
Moderación de texto: ShieldGemma en Transformers
|
Moderación de texto: ShieldGemma en Keras
|
Puedes usar modelos de ShieldGemma en los siguientes frameworks.
- KerasNLP, con puntos de control de modelos disponibles en Kaggle
- Transformers de Hugging Face, con puntos de control de modelos disponibles en Hugging Face Hub.