RecurrentGemma

RecurrentGemma est un modèle ouvert basé sur Griffin, une architecture de modèle hybride mélange des récurrences linéaires contrôlées et l'attention sur les fenêtres glissantes locales.

Tout comme Gemma, RecurrentGemma convient parfaitement une variété de tâches de génération de texte, notamment les réponses à des questions, la synthèse et le raisonnement. Cependant, l'architecture unique de RecurrentGemma offre les fonctionnalités supplémentaires suivantes : avantages:

  • Réduction de l'utilisation de la mémoire

    Des exigences de mémoire réduites permettent de générer des échantillons plus longs sur les appareils disposant d'une mémoire limitée, comme les GPU ou les processeurs uniques.

  • Débit plus élevé

    RecurrentGemma peut effectuer des inférences à des tailles de lot nettement plus élevées, ce qui signifie qu'il peut générer beaucoup plus de jetons par seconde, en particulier lorsqu'il génère de longues séquences.

  • Haut performance

    RecurrentGemma profite des performances de Gemma tout en nécessitant moins de mémoire et en accélérant l'inférence.

Autres ressources

La fiche de modèle de RecurrentGemma contient des informations détaillées sur le modèle, des informations sur son implémentation, des informations sur l'évaluation, son utilisation et ses limites, etc.
Consultez plus de code, de notebooks Colab, d'informations et de discussions sur RecurrentGemma sur Kaggle.
Exécutez des exemples de notebooks Colab pour JAX et PyTorch sur GitHub.