适用于 NPU 的 LiteRT 代理

Android 生态系统包含各种具有不同神经系统的设备 处理单元 (NPU)。利用这些专用 NPU 可以显著改善 加快 LiteRT (TFLite) 模型推断并降低能耗 与 CPU 或 GPU 执行相比,可以显著改善 部署应用

TFLite 代理目前正在开发中,可让您的应用使用 每个用户设备上的特定硬件这些受托人将由以下机构提供: NPU 的芯片供应商。

我们期待在不久的将来支持来自以下供应商的受托人。 个月:

  • Google Pixel
  • MediaTek
  • Qualcomm
  • 三星系统 LSI

敬请关注有关使用这些受托人的最新动态和进一步说明 在 TFLite 模型中利用 NPU 的力量。