使用元数据进行 LiteRT 推断

使用元数据推断模型非常简单 只需几行代码即可LiteRT 元数据包含 模型的用途以及如何使用该模型。它可以让代码生成器 自动为您生成推理代码,例如使用 Android Studio 机器学习绑定功能LiteRT Android 代码生成器。它还可以用于 配置自定义推理流水线。

工具和库

LiteRT 提供多种工具和库, 部署要求的层级如以下所示:

使用 Android 代码生成器生成模型接口

可以通过两种方式自动生成必要的 Android 封装容器代码 对于带有元数据的 LiteRT 模型:

  1. Android Studio ML Model Binding 工具可用 来通过图形界面 界面。Android Studio 会自动配置 项目,并根据模型元数据生成封装容器类。

  2. LiteRT 代码生成器是一个可执行文件, 根据元数据自动生成模型接口。目前, 支持使用 Java 的 Android。封装容器代码不需要 ByteBuffer。相反,开发者可以与 包含 BitmapRect 等类型化对象的 LiteRT 模型。 Android Studio 用户还可以通过以下方式使用 Codegen 功能: Android Studio 机器学习绑定

使用 LiteRT 支持库构建自定义推理流水线

LiteRT 支持库是一个跨平台库 有助于自定义模型界面和构建推理流水线。它 包含各种实用程序方法和数据结构,用于执行前/后 处理和数据转换。它还可以与 TensorFlow 模块,例如 TF.Image 和 TF.Text,确保从 推理。

探索带有元数据的预训练模型

浏览 Kaggle 模型 下载包含视觉和文本任务的元数据的预训练模型。此外, 您会看到直观呈现 元数据

LiteRT 支持 GitHub 代码库

访问 LiteRT 支持 GitHub 代码库中的更多示例和源代码 代码。