搭配 LiteRT 的 MediaTek NPU (NeuroPilot)

LiteRT 通过编译模型 API 支持 MediaTek NeuroPilot，可用于 AOT 和设备端编译。

设置开发环境

  • 操作系统：Ubuntu 22.04 LTS
  • 构建系统：Bazel 7.4.1
  • Android SDK：API 级别 34 (Android 14)
  • Android NDK：支持 API 级别 28（Android 9 Pie）

支持的 SoC

  • Dimensity 7300 (MT6878)
  • Dimensity 8300 (MT6897)
  • Dimensity 9000 (MT6983)
  • Dimensity 9200 (MT6985)
  • Dimensity 9300 (MT6989)
  • 天玑 9400 (MT6991)

后续步骤

  1. 首先，请参阅统一的 NPU 指南：使用 LiteRT 进行 NPU 加速
  2. 按照其中的转化和部署步骤操作，并在适用情况下选择 MediaTek。
  3. 对于 LLM，请参阅使用 LiteRT-LM 在 NPU 上执行 LLM。