L'écosystème Android englobe un large éventail d'appareils avec différentes unités de traitement neuronal (NPU). L'exploitation de ces NPU spécialisés peut accélérer considérablement l'inférence de modèle LiteRT (TFLite) et réduire la consommation d'énergie par rapport à l'exécution du processeur ou du GPU, ce qui améliore l'expérience utilisateur dans vos applications.
Les fournisseurs de puces qui fabriquent des processeurs NPUs fournissent des délégués LiteRT pour permettre à votre application d'utiliser leur matériel spécifique sur l'appareil de chaque utilisateur.
Délégué direct du moteur d'IA Qualcomm®
Le délégué direct de l'AI Engine Qualcomm® permet aux utilisateurs d'exécuter des modèles LiteRT à l'aide de l'environnement d'exécution Direct de l'AI Engine. Le délégué est compatible avec l'API Neural Network de Qualcomm.
Le délégué direct Qualcomm® AI Engine est disponible sur Maven Central. Pour en savoir plus, consultez la documentation sur les réseaux de neurones Qualcomm.
Bientôt disponible
Nous avons hâte de vous aider dans les mois à venir, que vous soyez délégué des fournisseurs suivants:
- Google Pixel
- MediaTek
- Samsung System LSI
Suivez les actualités et les instructions supplémentaires sur l'utilisation de ces délégués pour exploiter la puissance des processeurs NPUs dans vos modèles TFLite.