转换生成式 PyTorch 模型
使用集合让一切井井有条
根据您的偏好保存内容并对其进行分类。
AI Edge Torch Generative API 是一个针对移动设备进行了优化的库,用于将基于 Transformer 的 PyTorch 模型转换为 TF Lite 格式,使您可以使用 TF Lite 和 MediaPipe 转换大型语言模型 (LLM),以在设备上生成图片和文本。AI Edge Torch Generative API 目前仅支持 CPU,并已计划支持 GPU 和 NPU。
移动应用开发者可以使用 Edge Generative API 将 PyTorch LLM 与 MediaPipe LLM Inference API 集成,以创建完全在设备端运行这些转换后的 PyTorch 模型的应用。
如需了解详情,请参阅 Generative Torch API 的 GitHub 代码库。
如未另行说明,那么本页面中的内容已根据知识共享署名 4.0 许可获得了许可,并且代码示例已根据 Apache 2.0 许可获得了许可。有关详情,请参阅 Google 开发者网站政策。Java 是 Oracle 和/或其关联公司的注册商标。
最后更新时间 (UTC):2024-05-14。
[{
"type": "thumb-down",
"id": "missingTheInformationINeed",
"label":"没有我需要的信息"
},{
"type": "thumb-down",
"id": "tooComplicatedTooManySteps",
"label":"太复杂/步骤太多"
},{
"type": "thumb-down",
"id": "outOfDate",
"label":"内容需要更新"
},{
"type": "thumb-down",
"id": "translationIssue",
"label":"翻译问题"
},{
"type": "thumb-down",
"id": "samplesCodeIssue",
"label":"示例/代码问题"
},{
"type": "thumb-down",
"id": "otherDown",
"label":"其他"
}]
[{
"type": "thumb-up",
"id": "easyToUnderstand",
"label":"易于理解"
},{
"type": "thumb-up",
"id": "solvedMyProblem",
"label":"解决了我的问题"
},{
"type": "thumb-up",
"id": "otherUp",
"label":"其他"
}]