ЩитДжемма

ShieldGemma — это набор настроенных на инструкции моделей для оценки безопасности ввода текстовых подсказок и ответов на вывод текста в соответствии с набором определенных политик безопасности. Вы можете использовать эту модель как часть более широкой реализации приложения генеративного ИИ, чтобы помочь оценить и предотвратить нарушение политик безопасности приложениями генеративного ИИ.

Модели ShieldGemma построены на базе Gemma 2 с размерами параметров 2B, 9B и 27B. Модель снабжена открытыми весами, что позволяет точно настроить ее для конкретного случая использования. Этот набор моделей и пример кода реализации является компонентом Responsible Generative AI Toolkit .

  • Оценка безопасности контента

    Оцените безопасность оперативных входных и выходных реакций на соответствие набору определенных политик безопасности.

  • Настраиваемые открытые модели

    Модели ShieldGemma поставляются с открытым грузом и могут быть точно настроены для вашего конкретного случая использования.

Узнать больше

Карточка модели ShieldGemma содержит подробную информацию о реализации модели, оценках, использовании и ограничениях модели и многом другом.
Просмотрите дополнительный код, блокноты Colab, информацию и обсуждения ShieldGemma на Kaggle.
Запустите рабочий пример использования ShieldGemma для оценки ввода и вывода текстовых подсказок.