Delegat i LiteRT për NPU-të

Ekosistemi Android përfshin një gamë të gjerë pajisjesh me njësi të ndryshme të përpunimit nervor (NPU). Përdorimi i këtyre NPU-ve të specializuara mund të përshpejtojë ndjeshëm konkluzionet e modelit LiteRT (TFLite) dhe të zvogëlojë konsumin e energjisë në krahasim me ekzekutimin e CPU ose GPU, duke përmirësuar përvojën e përdoruesit në aplikacionet tuaja.

Shitësit e çipave që prodhojnë NPU ofrojnë delegatë të LiteRT për të lejuar aplikacionin tuaj të përdorë harduerin e tyre specifik në pajisjen e secilit përdorues.

Delegat i drejtpërdrejtë i motorit Qualcomm® AI

Delegati i drejtpërdrejtë i motorit AI Qualcomm® u mundëson përdoruesve të ekzekutojnë modelet LiteRT duke përdorur kohën e ekzekutimit të AI Engine Direct . Delegati mbështetet nga API i Rrjetit Neural të Qualcomm.

Delegati i drejtpërdrejtë i motorit Qualcomm® AI është i disponueshëm në Maven Central . Për më shumë informacion, shihni dokumentacionin e Rrjetit Neural Qualcomm .

Së shpejti

Mezi presim të mbështesim delegatët nga shitësit e mëposhtëm në muajt e ardhshëm:

  • Google Pixel
  • MediaTek
  • Sistemi Samsung LSI

Qëndroni të sintonizuar për përditësime dhe udhëzime të mëtejshme për përdorimin e këtyre delegatëve për të shfrytëzuar fuqinë e NPU-ve në modelet tuaja TFLite.