转换生成式 PyTorch 模型

AI Edge Torch Generative API 是一个用于将基于 Transformer 的 PyTorch 模型转换为 LiteRT 格式的库，可让您使用 LiteRT-LM 转换大语言模型 (LLM)，以便在设备上生成图片和文本。AI Edge Torch Generative API 目前支持 CPU 和 GPU，并计划支持 NPU。

开发者可以使用 Generative API 将 PyTorch LLM 与 LiteRT-LM 集成，以创建完全在设备端运行这些转换后的 PyTorch 模型的应用。

如需了解详情，请参阅 Generative Torch API GitHub 代码库。