Android 生态系统包含各种具有不同神经系统的设备 处理单元 (NPU)。利用这些专用 NPU 可以显著改善 加快 LiteRT (TFLite) 模型推断并降低能耗 与 CPU 或 GPU 执行相比,可以显著改善 部署应用
TFLite 代理目前正在开发中,可让您的应用使用 每个用户设备上的特定硬件这些受托人将由以下机构提供: NPU 的芯片供应商。
我们期待在不久的将来支持来自以下供应商的受托人。 个月:
- Google Pixel
- MediaTek
- Qualcomm
- 三星系统 LSI
敬请关注有关使用这些受托人的最新动态和进一步说明 在 TFLite 模型中利用 NPU 的力量。