Android 생태계에는 다양한 신경망 처리 장치 (NPU)가 있는 광범위한 기기가 포함됩니다. 이러한 특화된 NPU를 활용하면 TensorFlow Lite (TFLite) 모델 추론을 크게 가속화하고 CPU 또는 GPU 실행에 비해 에너지 소비량을 줄여 애플리케이션의 사용자 환경을 개선할 수 있습니다.
앱이 각 사용자 기기에서 특정 하드웨어를 활용할 수 있도록 TFLite 위임은 현재 개발 중입니다. 이러한 위임은 NPU를 제조하는 칩 공급업체에서 제공합니다.
향후 몇 달 내에 다음 공급업체의 대리인을 지원할 수 있기를 기대합니다.
- Google Pixel
- MediaTek
- Qualcomm
- 삼성 시스템 LSI
이러한 위임을 사용하여 TFLite 모델에서 NPU를 활용하는 방법에 관한 업데이트 및 추가 안내를 기다려 주세요.