轉換生成式 PyTorch 模型

AI Edge Torch 生成式 API 是針對行動裝置最佳化的程式庫，可將 Transformer 型的 PyTorch 模型轉換為 LiteRT 格式則方便您 使用 LiteRT 和 MediaPipe 生成裝置上的圖片和文字。AI Edge Torch Generative API 目前僅支援 CPU，並提供預期的 GPU 和 NPU 支援。

行動應用程式開發人員可使用 Edge Generative API 整合 PyTorch LLM 搭配 MediaPipe LLM Inference API 來建立應用程式 直接在裝置上執行轉換後的 PyTorch 模型

詳情請參閱 Generative Torch API GitHub 存放區。