ShieldGemma è un insieme di modelli di classificazione dei contenuti pronti all'uso, basati su istruzioni e con pesi aperti, basati su Gemma 2, che possono determinare se i contenuti forniti dall'utente, generati da un modello o misti violano una norma sulla sicurezza dei contenuti. ShieldGemma è addestrato per identificare quattro danni: contenuti di natura sessuale, contenuti pericolosi, molestie e odio parlato ed è disponibile in tre varianti di dimensioni: 2B, 9B e 27B parametri, che consentono di bilanciare velocità, prestazioni generalizzabilità per soddisfare le tue esigenze in qualsiasi deployment. Per saperne di più sulla differenza tra queste varianti, consulta la scheda del modello.
Proteggi i tuoi modelli con ShieldGemma
 Avvia Google Colab (Keras)
|
Avviare Google Colab (Transformer)
|
Puoi utilizzare i modelli di ShieldGemma nei seguenti framework.
- KerasNLP, con i checkpoint del modello disponibili su Kaggle. Consulta le ShieldGemma in Keras Colab per iniziare.
- Hugging Face Transformers, con i checkpoint dei modelli disponibili su Hugging Face Hub. Consulta le ShieldGemma in Transformers Colab per ottenere a iniziare.