MediaTek NPU (NeuroPilot) z LiteRT

LiteRT obsługuje MediaTek NeuroPilot za pomocą interfejsu Compiled Model API w przypadku kompilacji AOT i kompilacji na urządzeniu.

Konfigurowanie środowiska programistycznego

  • System operacyjny: Ubuntu 22.04 LTS
  • System kompilacji: Bazel 7.4.1
  • Pakiet SDK Androida: poziom interfejsu API 34 (Android 14)
  • Android NDK: obsługa interfejsu API na poziomie 28 (Android 9 Pie)

Obsługiwane układy SoC

  • Dimensity 7300 (MT6878)
  • Dimensity 8300 (MT6897)
  • Dimensity 9000 (MT6983)
  • Dimensity 9200 (MT6985)
  • Dimensity 9300 (MT6989)
  • Dimensity 9400 (MT6991)

Dalsze kroki

  1. Zacznij od ujednoliconego przewodnika po NPU: Akceleracja NPU za pomocą LiteRT
  2. Postępuj zgodnie z instrukcjami dotyczącymi konwersji i wdrażania, wybierając w odpowiednich miejscach MediaTek.
  3. W przypadku dużych modeli językowych zapoznaj się z artykułem Uruchamianie dużych modeli językowych na NPU za pomocą LiteRT-LM.