有效轉換、執行階段和最佳化，適用於裝置端機器學習。
LiteRT 不僅是新技術，更是全球部署最廣泛的機器學習執行階段的下一代技術。這項技術支援您每天使用的應用程式，在數十億部裝置上提供低延遲和高隱私權保障。

受最關鍵的 Google 應用程式信賴

超過 10 萬個應用程式，全球數十億使用者

LiteRT 精彩內容

透過 LiteRT 部署

從訓練到裝置端部署，簡化深度學習工作流程。
使用 .tflite 預先訓練模型，或將 PyTorch、JAX 或 TensorFlow 模型轉換為 .tflite。
瞭解轉換
使用 LiteRT 最佳化工具包，在訓練後量化模型。
探索最佳化
使用 LiteRT 部署模型，並為應用程式選擇最佳加速器。
查看部署目標

選擇開發路徑

使用 LiteRT 在任何地方部署 AI，包括高效能的行動應用程式，以及資源受限的 IoT 裝置。
改用 LiteRT，在各平台 (Android、電腦、網頁) 上運用強化效能和統一 API。
擁有 PyTorch 模型，並希望實作裝置端視覺或音訊體驗。
使用 Gemma 等經過最佳化的開放權重生成式 AI 模型或其他開放權重模型，在裝置端建立進階聊天機器人。
製作自訂模型，或針對特定硬體 CPU/GPU/NPU 進行深度最佳化，以達到最高效能。

範例、模型和試用版

完整的端對端範例應用程式。
查看範例應用程式
預先訓練且立即可用的生成式 AI 模型。
前往 HuggingFace

查看示範 - Google AI Edge Gallery 應用程式

這個藝廊展示使用 LiteRT 的裝置端 ML/GenAI 用途。
開啟 Play 商店

網誌和公告

掌握 LiteRT 團隊的最新公告、深入技術分析和效能基準。
瀏覽更多網誌
Google 的整合式裝置端機器學習架構，從 TFLite 演進而來，可進行高效能部署。
擴大 NPU 加速支援，將 MediaTek 晶片組納入其中，以提高 AI 效率。
在 Qualcomm 神經處理單元上發揮生成式 AI 的突破性效能。
隆重推出 CompiledModel API，可自動選取硬體並執行非同步作業。
使用 LiteRT-LM 在穿戴式裝置和瀏覽器平台部署語言模型。
邊緣語言模型的 RAG、多模態和函式呼叫最新洞察

加入社群

直接參與專案，並與核心開發人員協作。
在 Hugging Face Hub 存取最佳化開放權重模型。
準備好讓裝置端機器學習更上一層樓了嗎？歡迎瀏覽說明文件，立即開始建構作業。
探索說明文件