MediaTek-NPU (NeuroPilot) mit LiteRT

LiteRT unterstützt MediaTek NeuroPilot über die Compiled Model API für die AOT- und die On-Device-Kompilierung.

Entwicklungsumgebung einrichten

  • Betriebssystem:Ubuntu 22.04 LTS
  • Build-System:Bazel 7.4.1
  • Android SDK:API-Level 34 (Android 14)
  • Android NDK:Unterstützung für API-Level 28 (Android 9 Pie)

Unterstützte SoCs

  • Dimensity 7300 (MT6878)
  • Dimensity 8300 (MT6897)
  • Dimensity 9000 (MT6983)
  • Dimensity 9200 (MT6985)
  • Dimensity 9300 (MT6989)
  • Dimensity 9400 (MT6991)

Nächste Schritte

  1. Beginnen Sie mit dem einheitlichen NPU-Leitfaden: NPU-Beschleunigung mit LiteRT
  2. Folgen Sie der Anleitung zur Conversion und Bereitstellung und wählen Sie bei Bedarf MediaTek aus.
  3. Informationen zu LLMs finden Sie unter LLMs auf NPU mit LiteRT-LM ausführen.