集成自然语言分类器

任务库的 NLClassifier API 可将输入文本分类为不同的类别,是一款用途广泛且可配置的 API,可处理大多数文本分类模型。

NLClassifier API 的主要功能

  • 以单个字符串作为输入,使用该字符串执行分类,并输出 <label, score> 对作为分类结果。

  • 可用于输入文本的可选正则表达式分词。

  • 可配置,以适应不同的分类模型。

支持的 NLClassifier 模型

以下型号保证与 NLClassifier API 兼容。

在 Java 中运行推理

如需查看如何在 Android 应用中使用 NLClassifier 的示例,请参阅文本分类参考应用

第 1 步:导入 Gradle 依赖项和其他设置

.tflite 模型文件复制到将运行该模型的 Android 模块的 assets 目录中。指定不应压缩该文件,并将 TensorFlow Lite 库添加到模块的 build.gradle 文件中:

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Vision Library dependency
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.4.4'
    // Import the GPU delegate plugin Library for GPU inference
    implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}

第 2 步:使用 API 运行推理

// Initialization, use NLClassifierOptions to configure input and output tensors
NLClassifierOptions options =
    NLClassifierOptions.builder()
        .setBaseOptions(BaseOptions.builder().useGpu().build())
        .setInputTensorName(INPUT_TENSOR_NAME)
        .setOutputScoreTensorName(OUTPUT_SCORE_TENSOR_NAME)
        .build();
NLClassifier classifier =
    NLClassifier.createFromFileAndOptions(context, modelFile, options);

// Run inference
List<Category> results = classifier.classify(input);

如需了解更多用于配置 NLClassifier 的选项,请参阅源代码

在 Swift 中运行推理

第 1 步:导入 CocoaPods

在 Podfile 中添加 TensorFlowLiteTaskText pod

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.4.4'
end

第 2 步:使用 API 运行推理

// Initialization
var modelOptions:TFLNLClassifierOptions = TFLNLClassifierOptions()
modelOptions.inputTensorName = inputTensorName
modelOptions.outputScoreTensorName = outputScoreTensorName
let nlClassifier = TFLNLClassifier.nlClassifier(
      modelPath: modelPath,
      options: modelOptions)

// Run inference
let categories = nlClassifier.classify(text: input)

如需了解详情,请参阅源代码

在 C++ 中运行推理

// Initialization
NLClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<NLClassifier> classifier = NLClassifier::CreateFromOptions(options).value();

// Run inference with your input, `input_text`.
std::vector<core::Category> categories = classifier->Classify(input_text);

如需了解详情,请参阅源代码

在 Python 中运行推理

第 1 步:安装 pip 软件包

pip install tflite-support

第 2 步:使用模型

# Imports
from tflite_support.task import text

# Initialization
classifier = text.NLClassifier.create_from_file(model_path)

# Run inference
text_classification_result = classifier.classify(text)

如需了解更多用于配置 NLClassifier 的选项,请参阅源代码

示例结果

以下是影评模型的分类结果示例。

输入:“真是浪费我的时间。”

输出:

category[0]: 'Negative' : '0.81313'
category[1]: 'Positive' : '0.18687'

使用您自己的模型和测试数据,试用简单的 NLClassifier CLI 演示工具

模型兼容性要求

NLClassifier API 可以加载包含或不包含 TFLite 模型元数据的 TFLite 模型,具体取决于使用情形。查看使用 TensorFlow Lite Metadata Writer API 为自然语言分类器创建元数据的示例。

兼容的型号应满足以下要求:

  • 输入张量:(kTfLiteString/kTfLiteInt32)

    • 模型的输入应为 kTfLiteString 张量原始输入字符串或 kTfLiteInt32 张量(原始输入字符串的正则表达式标记化索引)。
    • 如果输入类型为 kTfLiteString,则模型不需要任何元数据
    • 如果输入类型为 kTfLiteInt32,则需要在输入张量的 Metadata 中设置 RegexTokenizer
  • 输出得分张量:(kTfLiteUInt8/kTfLiteInt8/kTfLiteInt16/kTfLiteFloat32/kTfLiteFloat64)

    • 必需的输出张量,用于表示每个分类类别的得分。

    • 如果类型为某个整数类型,则将其反量化为双精度/浮点,以用于相应平台

    • 可以在输出张量的相应 Metadata 中包含一个可选的关联文件。对于类别标签,该文件应为纯文本文件,每行一个标签,并且标签数量应与模型输出的类别数量一致。请参阅标签文件示例

  • 输出标签张量:(kTfLiteString/kTfLiteInt32)

    • 每个类别的标签的可选输出张量,应与输出得分张量的长度相同。如果不存在此张量,API 会使用得分指数作为类名。

    • 如果关联的标签文件存在于输出得分张量的元数据中,则会被忽略。