Android ekosistemi, çeşitli sinir işleme birimleri (NPUs) içeren çok çeşitli cihazları kapsar. Bu özel NPU'lardan yararlanmak, LiteRT (TFLite) model çıkarımlarını önemli ölçüde hızlandırabilir ve CPU veya GPU yürütmeyle karşılaştırıldığında enerji tüketimini azaltarak uygulamalarınızdaki kullanıcı deneyimini iyileştirebilir.
NPU üreten çip tedarikçileri, uygulamanızın her kullanıcının cihazında kendi donanımlarını kullanmasına izin vermek için LiteRT temsilcileri sağlar.
Qualcomm® AI Engine Doğrudan Temsilcisi
Qualcomm® AI Engine Direct Temsilcisi, kullanıcıların AI Engine Direct çalışma zamanını kullanarak LiteRT modellerini çalıştırmasına olanak tanır. Temsilci, Qualcomm'un Neural Network API'si tarafından desteklenir.
Qualcomm® AI Engine Direct Delegate, Maven Central'da kullanılabilir. Daha fazla bilgi için Qualcomm Neural Network belgelerini inceleyin.
Çok yakında
Önümüzdeki aylarda aşağıdaki tedarikçi firmaların temsilcilerini desteklemeyi umuyoruz:
- Google Pixel
- MediaTek
- Samsung System LSI
TFLite modellerinizde NPU'ların gücünden yararlanmak için bu temsilcileri kullanmayla ilgili güncellemeler ve daha fazla talimat için bizi takip edin.