O ecossistema do Android abrange uma grande variedade de dispositivos com diversas unidades de processamento neural (NPUs, na sigla em inglês). O uso dessas NPUs especializadas pode acelerar significativamente a inferência de modelos do TensorFlow Lite (TFLite) e reduzir o consumo de energia em comparação com a execução de CPU ou GPU, melhorando a experiência do usuário nos aplicativos.
Os delegados do TFLite estão em desenvolvimento para permitir que seu app utilize o hardware específico no dispositivo de cada usuário. Esses delegados serão fornecidos pelos fornecedores de chips que fabricam as NPUs.
Esperamos oferecer suporte aos delegados dos seguintes fornecedores nos próximos meses:
- Google Pixel
- MediaTek
- Qualcomm
- LSI do sistema Samsung
Acompanhe as atualizações e outras instruções sobre como usar esses delegados para aproveitar a eficiência das NPUs nos seus modelos do TFLite.