Inferensi LiteRT dengan metadata

Menyimpulkan model dengan metadata dapat dilakukan semudah beberapa baris kode. Metadata LiteRT berisi deskripsi yang lengkap tentang fungsi model dan cara menggunakan model tersebut. Dapat memberdayakan generator kode untuk otomatis membuat kode inferensi untuk Anda, seperti menggunakan perangkat Fitur Binding ML Studio atau LiteRT Generator kode Android. Alat ini juga dapat digunakan untuk dan mengonfigurasi pipeline inferensi kustom Anda.

Alat dan library

LiteRT menyediakan beragam alat dan library untuk melayani tingkat persyaratan deployment sebagai berikut:

Membuat antarmuka model dengan generator kode Android

Ada dua cara untuk secara otomatis membuat kode wrapper Android yang diperlukan untuk model LiteRT dengan metadata:

  1. Binding Model ML Android Studio tersedia sebagai alat dalam Android Studio untuk mengimpor model LiteRT melalui dalam antarmuka berbasis web yang sederhana. Android Studio akan otomatis mengonfigurasi setelan untuk memproyeksikan dan menghasilkan class wrapper berdasarkan metadata model.

  2. Pembuat Kode LiteRT adalah file yang dapat dieksekusi dan menghasilkan antarmuka model secara otomatis berdasarkan metadata. Saat ini mendukung Android dengan Java. Kode wrapper menghilangkan kebutuhan untuk berinteraksi secara langsung dengan ByteBuffer. Sebagai gantinya, developer bisa berinteraksi dengan Model LiteRT dengan objek yang diketik seperti Bitmap dan Rect. Pengguna Android Studio juga bisa mendapatkan akses ke fitur pembuatan kode melalui Binding ML Android Studio.

Membangun pipeline inferensi kustom dengan LiteRT Support Library

Library Dukungan LiteRT adalah library lintas platform yang membantu menyesuaikan antarmuka model dan membangun pipeline inferensi. Ini berisi berbagai metode utilitas dan struktur data untuk melakukan pra/pasca pengolahan data dan konversi data. Hal ini juga dirancang untuk sesuai dengan perilaku Modul TensorFlow, seperti TF.Image dan TF.Text, memastikan konsistensi dari pelatihan untuk inferensi.

Mempelajari model terlatih dengan metadata

Jelajahi Model Kaggle untuk mendownload model terlatih dengan metadata untuk tugas visi dan teks. Selain itu, lihat berbagai opsi memvisualisasikan metadata.

Repositori GitHub Dukungan LiteRT

Buka GitHub Dukungan LiteRT repo untuk contoh dan sumber lainnya pada kode sumber.