Delegat LiteRT dla jednostek NPU

Ekosystem Androida obejmuje szeroką gamę urządzeń o zróżnicowanych układach neuronowych jednostek przetwarzania (NPU). Wykorzystanie tych specjalistycznych NPU może znacznie przyspieszenie wnioskowania z modelu LiteRT (TFLite) i ograniczanie energii w porównaniu z wykonywaniem na CPU lub GPU, zwiększając wygodę użytkowników i aplikacjami.

Obecnie trwa opracowywanie przedstawicieli TFLite, aby umożliwić aplikacji korzystanie z usługi z konkretnym sprzętem każdego użytkownika. Tych przedstawicieli będzie zarządzać dostawców układów scalonych, którzy wytwarzają NPU.

W najbliższym czasie zamierzamy wspierać przedstawicieli z poniższych dostawców. miesiące:

  • Google Pixel
  • MediaTek
  • Qualcomm
  • System LSI firmy Samsung

Będziemy na bieżąco informować o zmianach i instrukcjach dotyczących korzystania z tych przedstawicieli aby wykorzystać możliwości NPU w modelach TFLite.