LiteRT가 적용된 MediaTek NPU (NeuroPilot)

LiteRT는 AOT 및 기기 내 컴파일 모두를 위해 컴파일된 모델 API를 통해 MediaTek NeuroPilot을 지원합니다.

개발 환경 설정

  • 운영체제: Ubuntu 22.04 LTS
  • 빌드 시스템: Bazel 7.4.1
  • Android SDK: API 수준 34 (Android 14)
  • Android NDK: API 수준 28 (Android 9 Pie) 지원

지원되는 SoC

  • Dimensity 7300 (MT6878)
  • Dimensity 8300 (MT6897)
  • Dimensity 9000 (MT6983)
  • Dimensity 9200 (MT6985)
  • Dimensity 9300 (MT6989)
  • Dimensity 9400 (MT6991)

다음 단계

  1. 통합 NPU 가이드인 LiteRT를 사용한 NPU 가속을 시작하세요.
  2. 해당하는 경우 MediaTek을 선택하여 전환 및 배포 단계를 따릅니다.
  3. LLM의 경우 LiteRT-LM을 사용하여 NPU에서 LLM 실행을 참고하세요.