Google Play 服务 C 和 C++ API 中的 LiteRT

借助 Google Play 服务运行时中的 LiteRT，您无需将 LiteRT 库静态捆绑到应用中，即可运行机器学习 (ML) 模型。本指南介绍了如何使用 Google Play 服务的 C 或 C++ API。

在 Google Play 服务 C API 或 C++ API 中使用 LiteRT 之前，请确保您已安装 CMake 构建工具。

更新构建配置

(1) 将以下依赖项添加到应用项目代码中，以访问适用于 LiteRT 的 Play 服务 API：

implementation "com.google.android.gms:play-services-tflite-java:16.4.0"

请注意，虽然该软件包名称以 -java 结尾，但该软件包还包含 C 和 C++ API。

(2) 然后，通过更新模块的 build.gradle 文件的 android 块，启用 Prefab 功能，以便从 CMake 脚本访问 C API：

buildFeatures {
  prefab = true
}

(3) [仅限 C++ API] 如果您使用的是 C++ API，请将 tflite-java-extract-cpp-sdk.gradle 复制到项目的 app 目录中，并将以下代码添加到应用的 Gradle 脚本（例如 app/build.gradle）的开头：

apply from: 'tflite-java-extract-cpp-sdk.gradle'

其中包含用于自动从 play-services-tflite-java 的 AAR 文件中解压缩 C++ SDK 的 Gradle 代码。

(4) [仅限 C++ API] 如果您使用的是 C++ API，请找到包含应用的 CMake 配置文件（通常为 CMakeLists.txt）的目录；该目录通常是 app/src/main/cpp 目录。然后，将 Findtflite_cc_api.cmake 复制到项目中该目录下的一个新 Modules 子目录中。其中包含用于查找上一步中 Gradle 脚本解压缩的 C++ SDK 的代码。

(5) 最后，您需要在 CMake 脚本中将软件包 tensorflowlite_jni_gms_client 添加为依赖项，对于 C++ API，还需要将软件包 tflite_cc_api 添加为依赖项，这两个软件包均从 AAR 导入：

初始化 LiteRT 运行时

在调用 LiteRT 原生 API 之前，您必须在 Java 或 Kotlin 代码中初始化 TfLiteNative 运行时。

Task tfLiteInitializeTask = TfLiteNative.initialize(context);
      

val tfLiteInitializeTask: Task = TfLiteNative.initialize(context)
        

TfLiteNative.initialize 使用 Google Play 服务 Task API 将 TFLite 运行时从 Google Play 服务异步加载到应用的运行时进程中。使用 addOnSuccessListener() 确保在执行访问 LiteRT API 的代码之前完成 TfLite.initialize() 任务。任务成功完成后，您可以调用所有可用的 TFLite 原生 API。

原生代码实现

如需在 Google Play 服务中将 LiteRT 与 C/C++ 代码搭配使用，您可以执行以下任一操作（或同时执行这两项操作）：

• 声明新的 JNI 函数，以便从 Java 代码调用 C 或 C++ 函数
• 从现有的 C 或 C++ 代码调用 LiteRT 原生 API。

JNI 函数

您可以声明新的 JNI 函数，以便 Java/Kotlin 代码可以访问 C/C++ 代码中声明的 LiteRT 运行时，如下所示：

package com.google.samples.gms.tflite.c;

public class TfLiteJni {
  static {
    System.loadLibrary("tflite-jni");
  }
  public TfLiteJni() { /**/ };
  public native void loadModel(AssetManager assetManager, String assetName);
  public native float[] runInference(float[] input);  // For example.
}
      

package com.google.samples.gms.tflite.c

class TfLiteJni() {
  companion object {
    init {
      System.loadLibrary("tflite-jni")
    }
  }
  external fun loadModel(assetManager: AssetManager, assetName: String)
  external fun runInference(input: FloatArray): FloatArray  // For example.
}
        

与以下 loadModel 和 runInference C 或 C++ 函数匹配：

#ifdef __cplusplus
extern "C" {
#endif

void Java_com_google_samples_gms_tflite_c_loadModel(
  JNIEnv *env, jobject tflite_jni, jobject asset_manager, jstring asset_name){
  //...
}

jfloatArray Java_com_google_samples_gms_tflite_c_TfLiteJni_runInference(
  JNIEnv* env, jobject tfliteJni, jfloatArray input) {
  //...
}

#ifdef __cplusplus
}  // extern "C".
#endif

然后，您可以从 Java/Kotlin 代码调用 C/C++ 函数：

tfLiteHandleTask.onSuccessTask(unused -> {
    TfLiteJni jni = new TfLiteJni();
    jni.loadModel(getAssets(), "add.bin");
    //...
});
    

tfLiteHandleTask.onSuccessTask {
    val jni = TfLiteJni()
    jni.loadModel(assets, "add.bin")
    // ...
}
      

原生代码中的 LiteRT

添加相应的 API 头文件，以便添加 LiteRT with Google Play 服务 API：

然后，您可以使用常规的 LiteRT C 或 C++ API：

支持的 API