ShieldGemma — это набор настроенных на инструкции моделей для оценки безопасности ввода текстовых подсказок и ответов на вывод текста в соответствии с набором определенных политик безопасности. Вы можете использовать эту модель как часть более широкой реализации приложения генеративного ИИ, чтобы помочь оценить и предотвратить нарушение политик безопасности приложениями генеративного ИИ.

Модели ShieldGemma построены на базе Gemma 2 с размерами параметров 2B, 9B и 27B. Модель снабжена открытыми весами, что позволяет точно настроить ее для конкретного случая использования. Этот набор моделей и пример кода реализации является компонентом Responsible Generative AI Toolkit .