L'inferenza dei modelli con metadati può essere semplice come poche righe di codice. I metadati di LiteRT contengono una descrizione dettagliata di cosa fa il modello e di come utilizzarlo. Può consentire ai generatori di codice di generare automaticamente il codice di inferenza per te, ad esempio utilizzando la funzionalità di binding ML di Android Studio o il generatore di codice LiteRT per Android. Può essere utilizzato anche per configurare la pipeline di inferenza personalizzata.
Strumenti e librerie
LiteRT fornisce una serie di strumenti e librerie per soddisfare diversi livelli di requisiti di deployment, come segue:
Generare l'interfaccia del modello con i generatori di codice Android
Esistono due modi per generare automaticamente il codice wrapper Android necessario per il modello LiteRT con metadati:
Android Studio ML Model Binding è uno strumento disponibile in Android Studio per importare il modello LiteRT tramite un'interfaccia grafica. Android Studio configurerà automaticamente le impostazioni per il progetto e genererà le classi wrapper in base ai metadati del modello.
LiteRT Code Generator è un eseguibile che genera automaticamente l'interfaccia del modello in base ai metadati. Al momento supporta Android con Java. Il codice wrapper elimina la necessità di interagire direttamente con
ByteBuffer. Gli sviluppatori possono invece interagire con il modello LiteRT con oggetti tipizzati comeBitmapeRect. Gli utenti di Android Studio possono accedere alla funzionalità di generazione di codice anche tramite Android Studio ML Binding.
Crea pipeline di inferenza personalizzate con la libreria di supporto LiteRT
LiteRT Support Library è una libreria multipiattaforma che consente di personalizzare l'interfaccia del modello e creare pipeline di inferenza. Contiene varie utilità di metodi e strutture di dati per eseguire la pre-elaborazione, la post-elaborazione e la conversione dei dati. È inoltre progettato per corrispondere al comportamento dei moduli TensorFlow, come TF.Image e TF.Text, garantendo la coerenza dall'addestramento all'inferenza.
Esplorare i modelli preaddestrati con i metadati
Sfoglia Kaggle Models per scaricare modelli preaddestrati con metadati per attività di visione e di testo. Consulta anche le diverse opzioni di visualizzazione dei metadati.
Repository GitHub di supporto di LiteRT
Visita il repository GitHub di assistenza LiteRT per altri esempi e codice sorgente.