使用元数据进行 TensorFlow Lite 推断

通过元数据推断模型非常简单,只需几行代码即可。TensorFlow Lite 元数据包含有关模型用途和使用方式的详细描述。它可以让代码生成器为您自动生成推理代码,例如使用 Android Studio 机器学习绑定功能TensorFlow Lite Android 代码生成器。它还可用于配置自定义推理流水线。

工具和库

TensorFlow Lite 提供多种工具和库,可满足不同层级的部署要求,具体如下所示:

使用 Android 代码生成器生成模型接口

您可以通过以下两种方式,为包含元数据的 TensorFlow Lite 模型自动生成必要的 Android 封装容器代码:

  1. Android Studio ML Model Binding 是 Android Studio 中提供的一种工具,用于通过图形界面导入 TensorFlow Lite 模型。Android Studio 会自动为项目配置设置,并根据模型元数据生成封装容器类。

  2. TensorFlow Lite 代码生成器是一个可执行文件,可根据元数据自动生成模型接口。它目前支持通过 Java 安装 Android 应用。封装容器代码不需要直接与 ByteBuffer 交互。相反,开发者可以使用 BitmapRect 等类型化对象与 TensorFlow Lite 模型进行交互。Android Studio 用户还可以通过 Android Studio 机器学习绑定来使用 Codegen 功能。

使用 TensorFlow Lite 支持库构建自定义推理流水线

TensorFlow Lite 支持库是一个跨平台库,有助于自定义模型接口和构建推理流水线。它包含各种实用程序方法和数据结构,用于执行预处理/后处理和数据转换。它还旨在匹配 TensorFlow 模块(如 TF.Image 和 TF.Text)的行为,确保从训练到推理的一致性。

探索带有元数据的预训练模型

浏览 Kaggle 模型,以下载包含视觉和文本任务的元数据的预训练模型。另请参阅直观呈现元数据的不同选项。

TensorFlow Lite 支持 GitHub 代码库

如需查看更多示例和源代码,请访问 TensorFlow Lite 支持 GitHub 代码库