使用元数据进行 LiteRT 推断

使用元数据进行推理的模型只需编写几行代码即可轻松实现。LiteRT 元数据包含对模型功能和使用方法的详细说明。它可以让代码生成器自动为您生成推理代码，例如使用 Android Studio ML Binding 功能或 LiteRT Android 代码生成器。它还可用于配置自定义推理流水线。

工具和库

LiteRT 提供各种工具和库，以满足不同层级的部署要求，如下所示：

使用 Android 代码生成器生成模型接口

您可以通过以下两种方式自动生成包含元数据的 LiteRT 模型所需的 Android 封装容器代码：

  1. Android Studio ML Model Binding 是 Android Studio 中提供的一种工具，可通过图形界面导入 LiteRT 模型。Android Studio 会自动为项目配置设置，并根据模型元数据生成封装容器类。

  2. LiteRT Code Generator 是一种可执行文件，可根据元数据自动生成模型接口。目前支持使用 Java 的 Android。封装容器代码无需直接与 ByteBuffer 互动。相反，开发者可以使用 Bitmap 和 Rect 等类型化对象与 LiteRT 模型互动。Android Studio 用户还可以通过 Android Studio ML Binding 访问代码生成功能。

使用 LiteRT 支持库构建自定义推理流水线

LiteRT 支持库是一个跨平台库，可帮助自定义模型接口和构建推理流水线。它包含各种实用方法和数据结构，可用于执行预处理/后处理和数据转换。它还旨在与 TensorFlow 模块（例如 TF.Image 和 TF.Text）的行为保持一致，确保从训练到推理的一致性。

探索包含元数据的预训练模型

浏览 Kaggle 模型，下载预训练模型，其中包含视觉和文本任务的元数据。另请参阅可视化元数据的不同选项。

LiteRT 支持 GitHub 代码库

如需查看更多示例和源代码，请访问 LiteRT 支持 GitHub 代码库。