ShieldGemma

ShieldGemma هي مجموعة من النماذج التي تمّ ضبطها لتوفير تعليمات بهدف تقييم أمان الطلبات النصية ردود المدخلات والمخرجات النصية على عكس مجموعة من سياسات الأمان المحددة. يمكنك استخدام هذا النموذج في إطار تطبيق أكبر للذكاء الاصطناعي التوليدي بهدف تقييم تطبيقات الذكاء الاصطناعي التوليدي ومنعها من انتهاك سياسات السلامة

تم إنشاء طُرز ShieldGemma استنادًا إلى Gemma 2 بأحجام 2B و9B. 27B أحجام معلَمة يتوفر النموذج بأوزان مفتوحة للسماح لك بضبطه حسب حالة استخدامك المحددة تعتبر هذه المجموعة من النماذج ومثال على رمز التنفيذ مكون مجموعة أدوات الذكاء الاصطناعي التوليدي المسؤولة:

  • تقييم أمان الردود على عمليات الإدخال والمخرجات مقارنةً بمجموعة من سياسات الأمان المحدّدة
  • تتوفّر طُرز ShieldGemma بأوزان مفتوحة ويمكن تحسينها حسب حالة الاستخدام الخاصة بك.

مزيد من المعلومات

تحتوي بطاقة نموذج ShieldGemma على معلومات تفصيلية حول تنفيذ النموذج والتقييمات واستخدام النموذج وقيوده وغير ذلك.
يمكنك عرض المزيد من الرموز البرمجية ودفاتر Colab والمعلومات والمناقشات حول ShieldGemma على Kaggle.
تنفيذ مثال عملي لاستخدام ShieldGemma لتقييم إدخال وإخراج موجّه النص