Android ekosisteminde, çeşitli sinirsel işlem birimlerine (NPU) sahip çok sayıda cihaz bulunur. Bu özel NPU'lardan yararlanmak, LiteRT (TFLite) model çıkarımını önemli ölçüde hızlandırabilir ve CPU veya GPU yürütmesine kıyasla enerji tüketimini azaltarak uygulamalarınızdaki kullanıcı deneyimini iyileştirebilir.
NPU'ları üreten çip satıcıları, uygulamanızın her kullanıcının cihazında kendi donanımını kullanmasına olanak tanıyan LiteRT temsilcileri sağlar.
Qualcomm® AI Engine Direct Delegate
Qualcomm® AI Engine Direct Delegate, kullanıcıların AI Engine Direct çalışma zamanını kullanarak LiteRT modellerini çalıştırmasına olanak tanır. Yetki, Qualcomm'un Neural Network API'si tarafından desteklenir.
Qualcomm® AI Engine Direct Delegate, Maven Central'da kullanılabilir. Daha fazla bilgi için Qualcomm Neural Network belgelerini inceleyin.
Çok yakında
Önümüzdeki aylarda aşağıdaki tedarikçilerin temsilcilerini desteklemeyi dört gözle bekliyoruz:
- Google Pixel
- Samsung System LSI
- Intel
Bu temsilcileri kullanarak LiteRT (TFLite) modellerinizde NPU'ların gücünden yararlanmayla ilgili güncellemeler ve daha fazla talimat için bizi takip etmeye devam edin.