集成自然语言分类器

Task 库的 NLClassifier API 将输入文本分为不同的 它是一种功能广泛且可配置的 API,可处理大部分文本 分类模型。

NLClassifier API 的主要功能

  • 接受单个字符串作为输入,对该字符串进行分类, 输出 <label, score="">作为分类结果。</label,>

  • (可选)适用于输入文本的正则表达式分词化。

  • 可配置为适应不同的分类模型。

支持的 NLClassifier 模型

以下模型保证与 NLClassifier兼容 API。

使用 Java 运行推理

请参阅文本分类参考 应用 查看如何在 Android 应用中使用 NLClassifier 的示例。

第 1 步:导入 Gradle 依赖项和其他设置

.tflite 模型文件复制到 Android 模块的 assets 目录中 将运行模型的位置。指定不应压缩该文件,并且 将 TensorFlow Lite 库添加到模块的 build.gradle 文件中:

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Vision Library dependency
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.4.4'
    // Import the GPU delegate plugin Library for GPU inference
    implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}

第 2 步:使用 API 进行推理

// Initialization, use NLClassifierOptions to configure input and output tensors
NLClassifierOptions options =
    NLClassifierOptions.builder()
        .setBaseOptions(BaseOptions.builder().useGpu().build())
        .setInputTensorName(INPUT_TENSOR_NAME)
        .setOutputScoreTensorName(OUTPUT_SCORE_TENSOR_NAME)
        .build();
NLClassifier classifier =
    NLClassifier.createFromFileAndOptions(context, modelFile, options);

// Run inference
List<Category> results = classifier.classify(input);

请参阅源代码 代码 了解用于配置 NLClassifier 的更多选项。

在 Swift 中运行推理

第 1 步:导入 CocoaPods

在 Podfile 中添加 TensorFlowLiteTaskText pod

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.4.4'
end

第 2 步:使用 API 进行推理

// Initialization
var modelOptions:TFLNLClassifierOptions = TFLNLClassifierOptions()
modelOptions.inputTensorName = inputTensorName
modelOptions.outputScoreTensorName = outputScoreTensorName
let nlClassifier = TFLNLClassifier.nlClassifier(
      modelPath: modelPath,
      options: modelOptions)

// Run inference
let categories = nlClassifier.classify(text: input)

请参阅源代码 代码 了解详情。

使用 C++ 运行推理

// Initialization
NLClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<NLClassifier> classifier = NLClassifier::CreateFromOptions(options).value();

// Run inference with your input, `input_text`.
std::vector<core::Category> categories = classifier->Classify(input_text);

请参阅源代码 代码 了解详情。

在 Python 中运行推理

第 1 步:安装 pip 软件包

pip install tflite-support

第 2 步:使用模型

# Imports
from tflite_support.task import text

# Initialization
classifier = text.NLClassifier.create_from_file(model_path)

# Run inference
text_classification_result = classifier.classify(text)

请参阅源代码 代码 了解用于配置 NLClassifier 的更多选项。

示例结果

下面是影评的分类结果示例 模型

输入:“真浪费我的时间。”

输出:

category[0]: 'Negative' : '0.81313'
category[1]: 'Positive' : '0.18687'

试用简单的 CLI 演示工具 NLClassifier 模型和测试数据。

模型兼容性要求

根据用例,NLClassifier API 可以使用 或不使用 TFLite 模型元数据。查看示例 使用 TensorFlow Lite 为自然语言分类器创建元数据的过程 元数据写入者 API

兼容的模型应满足以下要求:

  • 输入张量:(kTfLiteString/kTfLiteInt32)

    • 模型的输入应为 kTfLiteString 张量原始输入 字符串或 kTfLiteInt32 张量,用于原始输入的正则表达式标记化索引 字符串。
    • 如果输入类型是 kTfLiteString,则为否 必须为模型提供元数据
    • 如果输入类型为 kTfLiteInt32,则需要在RegexTokenizer 输入张量的 元数据
  • 输出得分张量: (kTfLiteUInt8/kTfLiteInt8/kTfLiteInt16/kTfLiteFloat32/kTfLiteFloat64)

    • 已分类每个类别的得分的必需输出张量。

    • 如果 type 是 Int 类型之一,则将其反量化为双精度/浮点值 对应的平台

    • 可以在输出张量的 类别对应的元数据 标签,则该文件应为纯文本文件,每行一个标签, 标签数量应与类别数量 模型输出。请参阅示例标签 文件

  • 输出标签张量:(kTfLiteString/kTfLiteInt32)

    • 每个类别标签的可选输出张量,应属于 与输出得分张量相同的长度。如果该张量不存在, API 使用得分索引作为类名称。

    • 如果输出得分中存在关联的标签文件,则会被忽略 Tensor 的元数据。