NPU의 LiteRT 위임

Android 생태계는 다양한 신경 언어, 여러 개의 컨테이너가 있습니다 이러한 전문 NPU를 활용하면 LiteRT (TFLite) 모델 추론을 가속화하고 에너지를 절감합니다. CPU 또는 GPU 실행 대비 소비량이 많기 때문에 Google Cloud의 애플리케이션을 확장할 수 있습니다

앱에서 사용할 수 있도록 TFLite 위임은 현재 개발 중입니다. 각 사용자 기기의 특정 하드웨어입니다. 위임자 제공 NPU를 제조하는 칩 공급업체와 관련이 있습니다.

Google은 앞으로 다음 공급업체의 대리인을 지원할 수 있기를 기대합니다. 개월:

  • Google Pixel
  • MediaTek
  • Qualcomm
  • 삼성 시스템 LSI

대리인 사용에 관한 업데이트 및 추가 안내를 기대해 주세요. TFLite 모델에서 NPU의 성능을 활용하는 방법을 확인해 보세요.