O ShieldGemma é um conjunto de classificadores de segurança de pesos prontos, ajustados por instruções e abertos criados com base na família de modelos Gemma para determinar se o texto ou as imagens violam uma política de segurança na entrada e na saída. O ShieldGemma é treinado para identificar os principais danos em diferentes modelos. Consulte os cards de modelos para mais informações.
- ShieldGemma 2 para moderação de conteúdo de imagem: disponível na versão 4B. Consulte o card de modelo para mais detalhes.
- ShieldGemma 1 para moderação de conteúdo de texto: disponível nas versões 2B, 9B e 27B, permitindo que você equilibre velocidade, desempenho e generalização para atender às suas necessidades em qualquer implantação. Consulte o card de modelo para mais detalhes.
Proteja seus modelos com o ShieldGemma
 Moderação de imagens: ShieldGemma 2 no Transformers
|
Moderação de texto: ShieldGemma no Transformers
|
Moderação de texto: ShieldGemma no Keras
|
É possível usar modelos do ShieldGemma nos seguintes frameworks.
- KerasNLP, com checkpoints de modelo disponíveis no Kaggle.
- Transformers do Hugging Face, com pontos de verificação de modelo disponíveis no Hugging Face Hub.