Ekosystem Androida obejmuje szeroką gamę urządzeń z różnymi jednostkami przetwarzania neuronowego (NPU). Korzystanie z tych wyspecjalizowanych jednostek NPU może znacznie przyspieszyć wnioskowanie modelu LiteRT (TFLite) i zmniejszyć zużycie energii w porównaniu z wykonywaniem na procesorze lub procesorze graficznym, co poprawia wrażenia użytkowników w Twoich aplikacjach.
Producenci układów scalonych, którzy wytwarzają NPU, udostępniają delegaty LiteRT, aby umożliwić aplikacji korzystanie z ich konkretnego sprzętu na urządzeniu każdego użytkownika.
Bezpośredni przedstawiciel Qualcomm® AI Engine
Bezpośredni delegat Qualcomm® AI Engine umożliwia użytkownikom uruchamianie modeli LiteRT przy użyciu bezpośredniego środowiska wykonawczego AI Engine. Delegat jest oparty na interfejsie Neural Network API firmy Qualcomm.
Bezpośredni delegat silnika AI Qualcomm® jest dostępny w Maven Central. Więcej informacji znajdziesz w dokumentacji sieci neuronowych Qualcomm.
Wkrótce
W najbliższych miesiącach będziemy obsługiwać delegatów z tych firm:
- Google Pixel
- Samsung System LSI
- Intel
Będziemy na bieżąco informować o aktualizacjach i dalszych instrukcjach dotyczących korzystania z tych delegatów, aby wykorzystać moc NPU w modelach LiteRT (TFLite).