MediaTek NPU (NeuroPilot) me LiteRT

LiteRT mbështet MediaTek NeuroPilot përmes Compiled Model API si për kompilimin AOT ashtu edhe për atë në pajisje.

Konfiguroni mjedisin e zhvillimit

  • Sistemi Operativ: Ubuntu 22.04 LTS
  • Sistemi i Ndërtimit: Bazel 7.4.1
  • Android SDK: Niveli API 34 (Android 14)
  • Android NDK: Mbështetje për API Level 28 (Android 9 Pie)

SoC-të e mbështetura

  • Dimensioni 7300 (MT6878)
  • Dimensioni 8300 (MT6897)
  • Dimensioni 9000 (MT6983)
  • Dimensioni 9200 (MT6985)
  • Dimensioni 9300 (MT6989)
  • Dimensioni 9400 (MT6991)

Hapat e ardhshëm

  1. Filloni me udhëzuesin e unifikuar të NPU-së: Përshpejtimi i NPU-së me LiteRT
  2. Ndiqni hapat e konvertimit dhe vendosjes atje, duke zgjedhur MediaTek aty ku është e aplikueshme.
  3. Për LLM-të, shihni Ekzekutimi i LLM-ve në NPU duke përdorur LiteRT-LM .