L'écosystème Android englobe une large gamme d'appareils dotés de diverses unités de traitement neuronal (NPU). L'utilisation de ces NPU spécialisés peut accélérer considérablement l'inférence des modèles LiteRT (TFLite) et réduire la consommation d'énergie par rapport à l'exécution sur CPU ou GPU, ce qui améliore l'expérience utilisateur dans vos applications.
Les fournisseurs de puces qui fabriquent des NPU fournissent des délégués Lite RT pour permettre à votre application d'utiliser leur matériel spécifique sur l'appareil de chaque utilisateur.
Délégué direct Qualcomm® AI Engine
Le délégué direct Qualcomm® AI Engine permet aux utilisateurs d'exécuter des modèles LiteRT à l'aide de l'environnement d'exécution AI Engine Direct. Le délégué est soutenu par l'API Neural Network de Qualcomm.
Le délégué direct Qualcomm® AI Engine est disponible sur Maven Central. Pour en savoir plus, consultez la documentation Qualcomm Neural Network.
Bientôt disponible
Nous avons hâte d'aider les délégués des fournisseurs suivants dans les mois à venir :
- Google Pixel
- Samsung System LSI
- Intel
Restez à l'écoute pour obtenir des informations et des instructions supplémentaires sur l'utilisation de ces délégués afin d'exploiter la puissance des NPU dans vos modèles LiteRT (TFLite).