ShieldGemma é um conjunto de modelos ajustados por instruções para avaliar a segurança de comandos de texto respostas de entrada e saída de texto de acordo com um conjunto de políticas de segurança definidas. Você pode usar esse modelo como parte de uma implementação maior de um aplicativo de IA generativa para ajudar avaliar e evitar que aplicativos de IA generativa violem políticas de segurança.

Os modelos ShieldGemma são baseados no Gemma 2 em 2B, 9B e 27B para tamanhos de parâmetros. O modelo tem pesos abertos para que você possa ajustá-los para seu caso de uso específico. Esse conjunto de modelos e exemplos de código de implementação são da classe Kit de ferramentas de IA generativa responsável.