NPU (NeuroPilot) da MediaTek com LiteRT

O LiteRT é compatível com o MediaTek NeuroPilot usando a API Compiled Model para compilação AOT e no dispositivo.

Configurar o ambiente de desenvolvimento

  • Sistema operacional:Ubuntu 22.04 LTS
  • Sistema de build:Bazel 7.4.1
  • SDK do Android:nível 34 da API (Android 14)
  • Android NDK:suporte ao nível 28 da API (Android 9 Pie)

SoCs compatíveis

  • Dimensity 7300 (MT6878)
  • Dimensity 8300 (MT6897)
  • Dimensity 9000 (MT6983)
  • Dimensity 9200 (MT6985)
  • Dimensity 9300 (MT6989)
  • Dimensity 9400 (MT6991)

Próximas etapas

  1. Comece com o guia unificado de NPU: Aceleração de NPU com LiteRT
  2. Siga as etapas de conversão e implantação, escolhendo MediaTek quando aplicável.
  3. Para LLMs, consulte Executar LLMs em NPUs usando o LiteRT-LM.