Android エコシステムには、多様なニューラル プロセッシング ユニット（NPU）を備えた幅広いデバイスが含まれています。これらの特殊な NPU を活用することで、TensorFlow Lite（TFLite）モデルの推論が大幅に高速化され、CPU や GPU の実行と比較してエネルギー消費量が削減され、アプリケーションのユーザー エクスペリエンスが向上します。
現在、各ユーザーのデバイス上の特定のハードウェアをアプリが利用できるようにするための TFLite デリゲートを開発中です。これらのデリゲートは、NPU を製造するチップベンダーから提供されます。
今後数か月で、以下のベンダーの代理人をサポートしていく予定です。
- Google Pixel
- MediaTek
- Qualcomm
- Samsung システム LSI
これらのデリゲートを使用して TFLite モデルで NPU を活用する方法については、最新情報と今後の手順にご期待ください。