Inferensi LiteRT dengan metadata

Inferensi model dengan metadata dapat dilakukan semudah hanya beberapa baris kode. Metadata LiteRT berisi deskripsi lengkap tentang fungsi model dan cara menggunakan model. Fitur ini dapat mendukung generator kode untuk membuat kode inferensi secara otomatis untuk Anda, seperti menggunakan fitur ML Binding Android Studio atau generator kode Android LiteRT. Nilai ini juga dapat digunakan untuk mengonfigurasi pipeline inferensi kustom Anda.

Alat dan library

LiteRT menyediakan berbagai alat dan library untuk memenuhi berbagai tingkat persyaratan deployment sebagai berikut:

Membuat antarmuka model dengan generator kode Android

Ada dua cara untuk membuat kode wrapper Android yang diperlukan secara otomatis untuk model LiteRT dengan metadata:

  1. Binding Model ML Android Studio adalah alat yang tersedia dalam Android Studio untuk mengimpor model LiteRT melalui antarmuka grafis. Android Studio akan otomatis mengonfigurasi setelan untuk project dan membuat class wrapper berdasarkan metadata model.

  2. LiteRT Code Generator adalah file yang dapat dieksekusi yang membuat antarmuka model secara otomatis berdasarkan metadata. Saat ini mendukung Android dengan Java. Kode wrapper menghilangkan kebutuhan untuk berinteraksi langsung dengan ByteBuffer. Sebagai gantinya, developer dapat berinteraksi dengan model LiteRT menggunakan objek yang diketik seperti Bitmap dan Rect. Pengguna Android Studio juga dapat mengakses fitur codegen melalui Binding ML Android Studio.

Membangun pipeline inferensi kustom dengan LiteRT Support Library

LiteRT Support Library adalah library lintas platform yang membantu menyesuaikan antarmuka model dan membangun pipeline inferensi. Library ini berisi berbagai metode utilitas dan struktur data untuk melakukan pra/pasca-pemrosesan dan konversi data. API ini juga dirancang agar sesuai dengan perilaku modul TensorFlow, seperti TF.Image dan TF.Text, sehingga memastikan konsistensi dari pelatihan hingga inferensi.

Menjelajahi model terlatih dengan metadata

Jelajahi Model Kaggle untuk mendownload model terlatih dengan metadata untuk tugas visi dan teks. Lihat juga berbagai opsi untuk memvisualisasikan metadata.

Repositori GitHub Dukungan LiteRT

Buka repositori GitHub Dukungan LiteRT untuk melihat contoh dan kode sumber lainnya.