ShieldGemma est un ensemble de modèles d'instructions réglés pour évaluer la sécurité d'une requête textuelle. des réponses d'entrée et de sortie texte par rapport à un ensemble de règles de sécurité définies. Vous pouvez utiliser ce modèle dans le cadre d'une implémentation plus large d'une application d'IA générative évaluer et éviter que les applications d'IA générative enfreignent les règles de sécurité.

Les modèles ShieldGemma sont basés sur Gemma 2 en 2B, 9B et 27 milliards de tailles de paramètres. Le modèle est fourni avec des pondérations ouvertes pour vous permettre de l'affiner pour votre cas d'utilisation spécifique. Cet ensemble de modèles et cet exemple de code d'implémentation de la classe Kit d'outils d'IA générative responsable.