InterpreterApi

TensorFlow Lite 模型解释器的接口，不包括实验性方法。

InterpreterApi 实例封装了预训练的 TensorFlow Lite 模型，在该模型中执行操作以进行模型推断。

例如，如果模型仅接受一个输入并且仅返回一个输出：

try (InterpreterApi interpreter =
     new InterpreterApi.create(file_of_a_tensorflowlite_model)) {
   interpreter.run(input, output);
 }
 

如果模型接受多个输入或输出：

Object[] inputs = {input0, input1, ...};
 Map<Integer, Object> map_of_indices_to_outputs = new HashMap<>();
 FloatBuffer ith_output = FloatBuffer.allocateDirect(3 * 2 * 4);  // Float tensor, shape 3x2x4.
 ith_output.order(ByteOrder.nativeOrder());
 map_of_indices_to_outputs.put(i, ith_output);
 try (InterpreterApi interpreter =
     new InterpreterApi.create(file_of_a_tensorflowlite_model)) {
   interpreter.runForMultipleInputsOutputs(inputs, map_of_indices_to_outputs);
 }
 

如果模型获取或生成字符串张量：

String[] input = {"foo", "bar"};  // Input tensor shape is [2].
 String[][] output = new String[3][2];  // Output tensor shape is [3, 2].
 try (InterpreterApi interpreter =
     new InterpreterApi.create(file_of_a_tensorflowlite_model)) {
   interpreter.runForMultipleInputsOutputs(input, output);
 }
 

请注意，形状 [] 和形状 [1] 是有区别的。对于标量字符串张量输出：

String[] input = {"foo"};  // Input tensor shape is [1].
 ByteBuffer outputBuffer = ByteBuffer.allocate(OUTPUT_BYTES_SIZE);  // Output tensor shape is [].
 try (Interpreter interpreter = new Interpreter(file_of_a_tensorflowlite_model)) {
   interpreter.runForMultipleInputsOutputs(input, outputBuffer);
 }
 byte[] outputBytes = new byte[outputBuffer.remaining()];
 outputBuffer.get(outputBytes);
 // Below, the `charset` can be StandardCharsets.UTF_8.
 String output = new String(outputBytes, charset);
 

使用 Toco 将 TensorFlow 模型转换为 TensorFlowLite 模型时，系统会确定输入和输出的顺序，以及输入的默认形状。

以（多维）数组形式提供输入时，相应的输入张量将根据该数组的形状隐式调整大小。以 Buffer 类型提供输入时，不会隐式调整大小；调用方必须确保 Buffer 字节大小与相应张量的大小一致，或者先通过 resizeInput(int, int[]) 调整张量的大小。您可以通过 Tensor 类（通过 getInputTensor(int) 和 getOutputTensor(int) 获得）获取张量形状和类型信息。

警告：InterpreterApi 实例不是线程安全的。

警告：InterpreterApi 实例拥有的资源必须通过调用 close() 来明确释放

TFLite 库是基于 NDK API 19 构建的。它可能适用于低于 19 的 Android API 级别，但不能保证。