RecurrentGemma
RecurrentGemma, kapılı doğrusal yinelemeleri yerel kayan pencere dikkatiyle birleştiren karma bir model mimarisi olan Griffin'i temel alan açık bir modeldir.
Gemma gibi RecurrentGemma da soru yanıtlama, özetleme ve akıl yürütme gibi çeşitli metin oluşturma görevleri için uygundur. Bununla birlikte, RecurrentGemma'nın benzersiz mimarisi aşağıdaki ek avantajları sunar:
-
Azaltılmış bellek kullanımı
Düşük bellek gereksinimleri, tek GPU'lar veya CPU'lar gibi sınırlı belleğe sahip cihazlarda daha uzun örnekler oluşturulmasına olanak sağlar. -
Daha yüksek işleme hızı
RecurrentGemma, çok daha yüksek grup boyutlarında çıkarım yapabilir, yani özellikle uzun diziler oluştururken saniyede önemli ölçüde daha fazla jeton oluşturabilir. -
Yüksek performans
RecurrentGemma, daha az bellek gerektirirken ve daha hızlı çıkarım gerçekleştirirken Gemma'nın performansını eşleştirir.
Daha fazla kaynak
Model kartını görüntüleyin
RecurrentGemma'nın model kartı; model, uygulama bilgileri, değerlendirme bilgileri, model kullanımı ile sınırlamaları ve daha fazlası hakkında ayrıntılı bilgiler içerir.
Kaggle'da göster
Kaggle'da RecurrentGemma ile ilgili daha fazla kod, Colab not defterleri, bilgi ve tartışmaları görüntüleyin.
GitHub'da çalıştır
GitHub'da JAX ve PyTorch için örnek Colab not defterlerini çalıştırın.