隆重推出 LiteRT:Google 為裝置端 AI (舊稱 TensorFlow Lite) 打造的高效能執行階段。
轉換生成式 PyTorch 模型
AI Edge Torch 生成式
API
是針對行動裝置最佳化的程式庫,可將 Transformer 型的 PyTorch 模型轉換為
LiteRT 格式則方便您
使用 LiteRT 和 MediaPipe 生成裝置上的圖片和文字。AI Edge Torch Generative API 目前僅支援 CPU,並提供預期的 GPU 和 NPU 支援。
行動應用程式開發人員可使用 Edge Generative API 整合 PyTorch LLM
搭配 MediaPipe LLM Inference
API 來建立應用程式
直接在裝置上執行轉換後的 PyTorch 模型
詳情請參閱 Generative Torch API GitHub
存放區。
除非另有註明,否則本頁面中的內容是採用創用 CC 姓名標示 4.0 授權,程式碼範例則為阿帕契 2.0 授權。詳情請參閱《Google Developers 網站政策》。Java 是 Oracle 和/或其關聯企業的註冊商標。
上次更新時間:2024-09-05 (世界標準時間)。
[[["容易理解","easyToUnderstand","thumb-up"],["確實解決了我的問題","solvedMyProblem","thumb-up"],["其他","otherUp","thumb-up"]],[["缺少我需要的資訊","missingTheInformationINeed","thumb-down"],["過於複雜/步驟過多","tooComplicatedTooManySteps","thumb-down"],["過時","outOfDate","thumb-down"],["翻譯問題","translationIssue","thumb-down"],["示例/程式碼問題","samplesCodeIssue","thumb-down"],["其他","otherDown","thumb-down"]],["上次更新時間:2024-09-05 (世界標準時間)。"],[],[]]