পুনরাবৃত্ত জেমা

RecurrentGemma হল Griffin- এর উপর ভিত্তি করে একটি উন্মুক্ত মডেল, একটি হাইব্রিড মডেল যা স্থানীয় স্লাইডিং উইন্ডো মনোযোগের সাথে গেটেড রৈখিক পুনরাবৃত্তি মিশ্রিত করে।

জেমার মতো, রিকারেন্ট জেম্মা প্রশ্ন উত্তর, সংক্ষিপ্তকরণ এবং যুক্তি সহ পাঠ্য তৈরির বিভিন্ন কাজের জন্য উপযুক্ত। যাইহোক, RecurrentGemma এর অনন্য আর্কিটেকচার নিম্নলিখিত অতিরিক্ত সুবিধাগুলি অফার করে:

  • নিম্ন মেমরির প্রয়োজনীয়তা একক GPU বা CPU-এর মতো সীমিত মেমরি সহ ডিভাইসে দীর্ঘ নমুনা তৈরির অনুমতি দেয়।
  • RecurrentGemma উল্লেখযোগ্যভাবে উচ্চতর ব্যাচ আকারে অনুমান করতে পারে, যার অর্থ এটি প্রতি সেকেন্ডে যথেষ্ট বেশি টোকেন তৈরি করতে পারে — বিশেষ করে যখন দীর্ঘ ক্রম তৈরি করা হয়।
  • RecurrentGemma জেমার কর্মক্ষমতার সাথে মেলে যখন কম মেমরির প্রয়োজন হয় এবং দ্রুত অনুমান অর্জন করে।

আরও সম্পদ

RecurrentGemma এর মডেল কার্ডে মডেল সম্পর্কে বিস্তারিত তথ্য, বাস্তবায়নের তথ্য, মূল্যায়ন তথ্য, মডেলের ব্যবহার এবং সীমাবদ্ধতা এবং আরও অনেক কিছু রয়েছে।
Kaggle-এ RecurrentGemma সম্পর্কে আরও কোড, Colab নোটবুক, তথ্য এবং আলোচনা দেখুন।
GitHub-এ JAX এবং PyTorch-এর জন্য Colab নোটবুকের উদাহরণ চালান।