RecurrentGemma

RecurrentGemma هو نموذج مفتوح يعتمد على Griffin، وهو نموذج مختلط يمزج بين التكرارات الخطية المعبأة ببوابات والتركيز على نافذة التمرير المحلي.

وعلى غرار "جيما"، تناسب مؤسسة RecurrentGemma مجموعة متنوعة من مهام إنشاء النصوص، بما في ذلك الإجابة عن الأسئلة والتلخيص والاستدلال. مع ذلك، توفّر بنية RecurrentGemma الفريدة المزايا الإضافية التالية:

  • يسمح انخفاض متطلبات الذاكرة بإنشاء نماذج أطول على الأجهزة ذات الذاكرة المحدودة، مثل وحدات معالجة الرسومات الفردية أو وحدات المعالجة المركزية (CPU).
  • وتستطيع RecurrentGemma استدلال البيانات بأحجام دُفعات أكبر بكثير، ما يعني أنّها بإمكانها إنشاء عدد أكبر من الرموز المميّزة في الثانية، خاصةً عند إنشاء تسلسلات طويلة.
  • تتطابق أداة RecurrentGemma مع أداء "جيما" مع أنّها تتطلّب ذاكرة أقل وتحقيق نتيجة أسرع.

مزيد من الموارد

تحتوي بطاقة نموذج RecurrentGemma على معلومات تفصيلية حول النموذج ومعلومات التنفيذ ومعلومات التقييم واستخدام النموذج والقيود المفروضة عليه، وغير ذلك.
عرض المزيد من التعليمات البرمجية ودفاتر Colab والمعلومات والمناقشات حول RecurrentGemma على Kaggle.
شغِّل أمثلة على دفاتر ملاحظات Colab لـ JAX وPyTorch على GitHub.