使用中繼資料進行 TensorFlow Lite 推論

使用中繼資料來推斷模型非常簡單,只需要加入幾行程式碼即可。TensorFlow Lite 中繼資料內含模型用途和模型使用方式的詳盡說明。可讓程式碼產生器自動產生推論程式碼,例如使用 Android Studio 機器學習繫結功能TensorFlow Lite Android 程式碼產生器。它也可用來設定自訂推論管道。

工具與程式庫

TensorFlow Lite 提供各種工具和程式庫,可滿足不同的部署需求,如下所示:

透過 Android 程式碼產生器產生模型介面

您可以透過下列兩種方式,利用中繼資料自動產生必要的 Android Lite 模型 Android 包裝函式程式碼:

  1. Android Studio 機器學習模型繫結是 Android Studio 提供的工具,可透過圖形介面匯入 TensorFlow Lite 模型。Android Studio 會自動調整專案設定,並根據模型中繼資料產生包裝函式類別。

  2. TensorFlow Lite Code Generator 是可執行檔,能根據中繼資料自動產生模型介面。這項服務目前支援搭載 Java 的 Android。包裝函式程式碼不需要與 ByteBuffer 直接互動。開發人員可以改用 BitmapRect 等類型物件,與 TensorFlow Lite 模型互動。Android Studio 使用者也可以透過 Android Studio ML 繫結存取 Codegen 功能。

使用 TensorFlow Lite 支援資料庫建構自訂推論管道

TensorFlow Lite 支援資料庫是一個跨平台程式庫,可協助自訂模型介面及建構推論管道。其中包含多種執行前後處理和資料轉換的公用程式方法和資料結構。此外,這個程式庫也能與 TensorFlow 模組 (例如 TF.Image 和 TF.Text) 的行為相匹配,確保訓練和推論之間的一致性。

透過中繼資料探索預先訓練模型

瀏覽 Kaggle Models,下載具有視覺和文字工作中繼資料的預先訓練模型。另請參閱視覺化中繼資料的不同選項。

TensorFlow Lite 支援 GitHub 存放區

如需更多範例和原始碼,請前往 TensorFlow Lite 支援 GitHub 存放區