El ecosistema de Android abarca una amplia gama de dispositivos con diversas de procesamiento de lenguaje natural (NPU). Aprovechar estas NPU especializadas puede Acelera la inferencia de modelos LiteRT (TFLite) y reduce la energía de uso en comparación con la ejecución de CPU o GPU, lo que mejora la experiencia del usuario en tus aplicaciones.
Los delegados de TFLite están en desarrollo para permitir que tu app use el hardware específico del dispositivo de cada usuario. A estos delegados los proporcionará los proveedores de chips que fabrican las NPU.
Esperamos apoyar a los delegados de los siguientes proveedores en el próximo meses:
- Google Pixel
- MediaTek
- Qualcomm
- LSI del sistema de Samsung
No te pierdas las novedades y más instrucciones sobre cómo usar a estos delegados para aprovechar la potencia de las NPU en tus modelos de TFLite.