ShieldGemma è un insieme di classificatori di sicurezza predefiniti, basati su istruzioni e con pesi aperti, basati sulla famiglia di modelli Gemma per determinare se il testo o le immagini violano un criterio di sicurezza in input e in output. ShieldGemma è addestrato a identificare i principali danni in diversi modelli. Per ulteriori informazioni, consulta le schede dei modelli.
- ShieldGemma 2 per la moderazione dei contenuti delle immagini: disponibile in 4B. Per ulteriori dettagli, consulta la scheda del modello.
- ShieldGemma 1 per la moderazione dei contenuti di testo: disponibile in 2 miliardi, 9 miliardi e 27 miliardi di parametri, consente di bilanciare velocità, prestazioni e generalizzabilità in base alle tue esigenze in qualsiasi implementazione. Per ulteriori dettagli, consulta la scheda del modello.
Proteggere i modelli con ShieldGemma
 Moderazione delle immagini: ShieldGemma 2 in Transformers
|
Moderazione del testo: ShieldGemma in Transformers
|
Moderazione del testo: ShieldGemma in Keras
|
Puoi utilizzare i modelli ShieldGemma nei seguenti framework.
- KerasNLP, con i checkpoint del modello disponibili su Kaggle.
- Hugging Face Transformers, con i checkpoint del modello disponibili su Hugging Face Hub.