O ecossistema Android abrange uma ampla gama de dispositivos com diversos tipos de unidades de processamento de dados (NPUs, na sigla em inglês). O uso dessas NPUs especializadas pode acelera a inferência do modelo LiteRT (TFLite) e reduz o uso de energia em comparação com a execução de CPU ou GPU, melhorando a experiência do usuário em seus aplicativos.
Os delegados do TFLite estão em desenvolvimento para que seu app possa usar o hardware específico no dispositivo de cada usuário. Esses delegados serão fornecidos pela os fornecedores de chips que fabricam as NPUs.
Esperamos oferecer suporte aos delegados dos seguintes fornecedores nos próximos meses:
- Google Pixel
- MediaTek
- Qualcomm
- LSI do sistema Samsung
Fique de olho nas atualizações e instruções sobre como usar esses delegados para aproveitar o poder das NPUs nos seus modelos do TFLite.