推論具有中繼資料的模型非常簡單,只要幾行程式碼即可完成。LiteRT 中繼資料包含模型功能和使用方式的詳細說明,這項功能可讓程式碼產生器自動產生推論程式碼,例如使用 Android Studio 機器學習繫結功能或 LiteRT Android 程式碼產生器。您也可以使用這項服務設定自訂推論管道。
工具與程式庫
LiteRT 提供各種工具和程式庫,可滿足不同層級的部署需求,如下所示:
使用 Android 程式碼產生器產生模型介面
如要自動產生 LiteRT 模型所需的 Android 包裝函式程式碼 (含中繼資料),有兩種方法:
Android Studio ML Model Binding 是 Android Studio 內建的工具,可透過圖形介面匯入 LiteRT 模型。Android Studio 會自動設定專案,並根據模型中繼資料產生包裝函式類別。
LiteRT 程式碼產生器是可執行檔,可根據中繼資料自動產生模型介面。這項功能目前支援使用 Java 的 Android。包裝函式程式碼可避免直接與
ByteBuffer互動。開發人員可以改用Bitmap和Rect等型別物件,與 LiteRT 模型互動。Android Studio 使用者也可以透過 Android Studio ML Binding 存取程式碼產生功能。
使用 LiteRT 支援程式庫建構自訂推論管道
LiteRT 支援程式庫是跨平台程式庫,可協助自訂模型介面及建構推論管線。其中包含各種實用方法和資料結構,可執行預先/事後處理和資料轉換。此外,這項工具的設計也與 TF.Image 和 TF.Text 等 TensorFlow 模組的行為相符,可確保從訓練到推論的一致性。
探索含有中繼資料的預先訓練模型
瀏覽 Kaggle 模型,下載預先訓練模型和中繼資料,用於視覺和文字工作。此外,您也可以查看以不同方式呈現中繼資料的選項。
LiteRT 支援 GitHub 存放區
如需更多範例和原始碼,請前往 LiteRT 支援 GitHub 存放區。