建構 LiteRT 模型

本頁面提供使用 改用 LiteRT 模型格式機器 用於 LiteRT 的學習 (ML) 模型最初是建構 訓練而成建立模型後 就可以將其轉換為規模較小、效率較高的機器學習模型 則稱為 LiteRT 模型

如果您已有可轉換的模型,請參閱轉換模式 總覽頁面,瞭解如何轉換模型。

建構模型

如要為特定用途建構自訂模型,請先 開發及訓練 TensorFlow 模型,或擴充現有模型。

模型設計限制

開始模型開發程序之前,您應該已經瞭解 LiteRT 模型的受限及用來建構模型 但請留意以下限制:

  • 運算能力有限:與 支援多個 CPU、高記憶體容量和 GPU 等特殊處理器 以及 TPU、行動裝置和邊緣裝置都受到許多限制雖然這些 運算能力和特殊硬體相容性不斷增加 但可以有效處理的資料 仍舊有限
  • 模型大小:模型的整體複雜度,包括資料 預先處理邏輯和模型層數時, 代表模型的記憶體內大小大型模型的執行速度可能難以預期, 可能無法容納行動裝置或邊緣裝置的可用記憶體。
  • 資料大小 - 可以有效處理的輸入資料大小 機器學習模型的部分功能,在行動裝置或邊緣裝置上十分有限。型號 運用大型資料程式庫 或短片庫可能不適用於這些裝置,因此需要 外部儲存空間和存取解決方案
  • 支援的 TensorFlow 作業 - LiteRT 執行階段環境 支援一部分的機器學習模型作業 TensorFlow 模型開發要與 LiteRT 搭配使用的模型時 應追蹤您的模型與下列項目的相容性: LiteRT 執行階段環境。

進一步瞭解如何為 LiteRT,請參閱「效能最佳做法」。

模型開發

如要建構 LiteRT 模型,您必須先使用 TensorFlow 核心程式庫TensorFlow 核心程式庫 程式庫,提供用於建構、訓練及部署機器學習模型的 API。

TFLite 建構工作流程

TensorFlow 提供兩種執行這項作業的路徑您可以自行開發 或從 TensorFlow Model Garden

Model Garden

TensorFlow Model Garden 提供許多 用於視覺和自然語言處理 (NLP) 的機器學習 (ML) 模型。 您也可以使用工作流程工具快速設定及執行 運用標準資料集解釋模型Model Garden 中的機器學習模型 加入完整程式碼,方便你使用自己的程式碼進行測試、訓練或重新訓練

無論您是否要為知名模型進行效能基準測試,請確認 近期發表的研究結果,或擴充現有模型 Garden 可協助您達成機器學習目標。

自訂模型

如果模型的用途不在 Model Garden 支援的模型中 也可以使用 Keras 等高階程式庫 自訂訓練程式碼如要瞭解 TensorFlow 的基礎知識,請參閱 TensorFlow 指南。如要開始使用 範例,請參閱 TensorFlow 教學課程 總覽,內含指向 入門到專業級教學課程

模型評估

模型開發完成後,請評估模型的成效, 在使用者裝置上使用應用程式TensorFlow 提供幾種做法。

  • TensorBoard 這項工具可讓您使用 機器學習工作流程能追蹤損失等實驗指標 以視覺化方式呈現模型圖表,並將嵌入量降至較低的值 等尺寸
  • 所有支援的基準化工具都能使用 平台,例如 Android 基準應用程式 和 iOS 基準應用程式使用 這些工具可評估並計算重要成效的統計資料 指標。

模型最佳化

對 TensorFlow 專屬資源設下限制 精簡模型,模型最佳化有助於確保模型成效良好 並減少運算資源機器學習模型的成效通常 在推論大小、推論速度與準確率之間取得平衡。LiteRT 目前支援量化、修剪和分群法最佳化詳情請見 模型最佳化主題中的詳細說明 技巧TensorFlow 也提供模型最佳化 工具包,會提供可實作這些 API 的 API 技巧

後續步驟