建構 TensorFlow Lite 模型

本頁面說明如何利用轉換為 TensorFlow Lite 模型格式,來建構 TensorFlow 模型。搭配 TensorFlow Lite 使用的機器學習 (ML) 模型最初是以 TensorFlow 核心程式庫和工具建構及訓練。使用 TensorFlow 核心建立模型後,您就可以將其轉換為更小、更有效率的機器學習模型格式,稱為 TensorFlow Lite 模型。

如果您已有轉換模型,請參閱「轉換模型總覽」頁面,瞭解如何轉換模型。

建構模型

如要為特定用途建構自訂模型,建議您先開發和訓練 TensorFlow 模型,或是擴充現有的模型。

模型設計限制

開始模型開發程序之前,請先瞭解 TensorFlow Lite 模型的限制,並在建構模型時,將下列限制納入考量:

  • 運算能力有限:與具備多個 CPU、高記憶體容量、特殊處理器 (例如 GPU 和 TPU、行動裝置和邊緣裝置) 完全配備的伺服器相比,運算能力有限。雖然在運算能力和特殊硬體相容性日漸增加,但能有效處理的模型和資料仍相當有限。
  • 模型大小:模型的整體複雜度 (包括資料預先處理邏輯和模型中的層數) 會增加模型的記憶體內大小。大型模型的執行速度可能難以接受,或單純無法納入行動裝置或邊緣裝置的可用記憶體中。
  • 資料大小:可利用機器學習模型實際處理的輸入資料大小,在行動裝置或邊緣裝置上設有限制。如果模型使用大型資料程式庫 (例如語言程式庫、圖片程式庫或短片程式庫),這類模型可能無法在這類裝置上運作,而且可能需要裝置外部儲存空間和存取解決方案。
  • 支援的 TensorFlow 作業:相較於一般的 TensorFlow 模型,TensorFlow Lite 執行階段環境支援部分機器學習模型作業。當您開發要搭配 TensorFlow Lite 使用的模型時,您應追蹤模型與 TensorFlow Lite 執行階段環境的功能。

如要進一步瞭解如何為 TensorFlow Lite 建構有效、相容的高效能模型,請參閱效能最佳做法

模型開發

如要建構 TensorFlow Lite 模型,您必須先使用 TensorFlow 核心程式庫建構模型。TensorFlow 核心程式庫是低階程式庫,提供 API 來建構、訓練及部署機器學習模型。

TFLite 建構工作流程

TensorFlow 提供兩個路徑來進行這項操作。您可以自行開發自訂模型程式碼,也可以先實作 TensorFlow Model Garden 提供的模型實作。

Model Garden

TensorFlow Model Garden 提供多種最先進的機器學習 (ML) 模型實作,用於視覺和自然語言處理 (NLP)。我們也提供工作流程工具,讓您在標準資料集上快速設定及執行這些模型。Model Garden 中的機器學習模型內含完整程式碼,您可以使用自己的資料集進行測試、訓練或重新訓練。

無論您是想針對知名模型進行效能基準測試、驗證近期發布的研究結果,或是擴充現有模型,模型園地都能協助您達成機器學習目標。

自訂模型

如果您的用途不在 Model Garden 的模型支援範圍內,您可以使用 Keras 等高階程式庫來開發自訂訓練程式碼。如要瞭解 TensorFlow 的基礎知識,請參閱 TensorFlow 指南。如要開始使用範例,請參閱 TensorFlow 教學課程總覽,其中包含新手教學課程的指標。

模型評估

開發模型後,建議您評估模型效能,並在使用者裝置上測試。TensorFlow 提供了幾種達到此目的的方法。

  • TensorBoard 是一項用於提供機器學習工作流程中所需的測量和視覺化內容的工具。這可以追蹤實驗指標,例如損失和準確率、以視覺化方式呈現模型圖、將嵌入投影到較低維度空間等。
  • 基準測試工具適用於每個支援的平台,例如 Android 基準應用程式和 iOS 基準應用程式。請使用這些工具評估重要成效指標的統計資料,並計算相關統計資料。

模型最佳化

透過 TensorFlow Lite 模型專屬資源限制,模型最佳化將有助於確保模型效能良好,並減少運算資源。機器學習模型效能通常在推論大小和速度與準確率之間取得平衡。TensorFlow Lite 目前透過量化、修剪和分群法支援最佳化。如要進一步瞭解這些技術,請參閱模型最佳化主題。TensorFlow 也提供模型最佳化工具包,其中提供實作這些技巧的 API。

後續步驟

  • 如要開始建構自訂模型,請參閱 TensorFlow 核心說明文件中的新手快速入門教學課程。
  • 如要轉換自訂 TensorFlow 模型,請參閱轉換模型總覽
  • 如要確認您的模型是否與 TensorFlow Lite 相容,或是否需要採取額外步驟才能使模型相容,請參閱運算子相容性指南。
  • 請參閱效能最佳做法指南,瞭解如何讓 TensorFlow Lite 模型更有效率地運作。
  • 請參閱成效指標指南,瞭解如何使用基準測試工具評估模型效能。