ЩитДжемма
ShieldGemma — это набор настроенных на инструкции моделей для оценки безопасности ввода текстовых подсказок и ответов на вывод текста в соответствии с набором определенных политик безопасности. Вы можете использовать эту модель как часть более широкой реализации приложения генеративного ИИ, чтобы помочь оценить и предотвратить нарушение политик безопасности приложениями генеративного ИИ.
Модели ShieldGemma построены на базе Gemma 2 с размерами параметров 2B, 9B и 27B. Модель снабжена открытыми весами, что позволяет точно настроить ее для конкретного случая использования. Этот набор моделей и пример кода реализации является компонентом Responsible Generative AI Toolkit .
-
Оценка безопасности контента
Оцените безопасность оперативных входных и выходных реакций на соответствие набору определенных политик безопасности. -
Настраиваемые открытые модели
Модели ShieldGemma поставляются с открытым грузом и могут быть точно настроены для вашего конкретного случая использования.