Integrar o classificador de linguagem natural

A API NLClassifier da biblioteca de tarefas classifica o texto de entrada em diferentes categorias e é uma API versátil e configurável que pode processar a maioria dos modelos de classificação de texto.

Principais recursos da API NLClassifier

• Recebe uma única string como entrada, realiza a classificação com ela e gera pares <label, score=""> como resultados da classificação.</label,>

• Tokenização de regex opcional disponível para texto de entrada.

• Configurável para adaptar diferentes modelos de classificação.

Modelos NLClassifier compatíveis

Os modelos a seguir têm garantia de compatibilidade com a API NLClassifier.

• O modelo de classificação de sentimento de avaliação de filme.

• Modelos com especificação average_word_vec criados pelo TensorFlow Lite Model Maker para classificação de texto.

• Modelos personalizados que atendem aos requisitos de compatibilidade de modelo.

Executar inferência em Java

Consulte o app de referência de classificação de texto para ver um exemplo de como usar NLClassifier em um app Android.

Etapa 1: importar a dependência do Gradle e outras configurações

Copie o arquivo de modelo .tflite para o diretório de recursos do módulo Android em que o modelo será executado. Especifique que o arquivo não deve ser compactado e adicione a biblioteca do TensorFlow Lite ao arquivo build.gradle do módulo:

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Vision Library dependency
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.4.4'
    // Import the GPU delegate plugin Library for GPU inference
    implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}

Etapa 2: executar a inferência usando a API

// Initialization, use NLClassifierOptions to configure input and output tensors
NLClassifierOptions options =
    NLClassifierOptions.builder()
        .setBaseOptions(BaseOptions.builder().useGpu().build())
        .setInputTensorName(INPUT_TENSOR_NAME)
        .setOutputScoreTensorName(OUTPUT_SCORE_TENSOR_NAME)
        .build();
NLClassifier classifier =
    NLClassifier.createFromFileAndOptions(context, modelFile, options);

// Run inference
List<Category> results = classifier.classify(input);

Consulte o código-fonte para mais opções de configuração do NLClassifier.

Executar inferência em Swift

Etapa 1: importar o CocoaPods

Adicione o pod TensorFlowLiteTaskText ao Podfile

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.4.4'
end

Etapa 2: executar a inferência usando a API

// Initialization
var modelOptions:TFLNLClassifierOptions = TFLNLClassifierOptions()
modelOptions.inputTensorName = inputTensorName
modelOptions.outputScoreTensorName = outputScoreTensorName
let nlClassifier = TFLNLClassifier.nlClassifier(
      modelPath: modelPath,
      options: modelOptions)

// Run inference
let categories = nlClassifier.classify(text: input)

Consulte o código-fonte para mais detalhes.

Executar inferência em C++

// Initialization
NLClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<NLClassifier> classifier = NLClassifier::CreateFromOptions(options).value();

// Run inference with your input, `input_text`.
std::vector<core::Category> categories = classifier->Classify(input_text);

Consulte o código-fonte para mais detalhes.

Executar inferência em Python

Etapa 1: instalar o pacote pip

pip install tflite-support

Etapa 2: usar o modelo

# Imports
from tflite_support.task import text

# Initialization
classifier = text.NLClassifier.create_from_file(model_path)

# Run inference
text_classification_result = classifier.classify(text)

Consulte o código-fonte para mais opções de configuração do NLClassifier.

Resultados de exemplo

Confira um exemplo dos resultados da classificação do modelo de avaliação de filme.

Entrada: "Que perda de tempo".

Saída:

category[0]: 'Negative' : '0.81313'
category[1]: 'Positive' : '0.18687'

Teste a ferramenta de demonstração da CLI simples para NLClassifier com seu próprio modelo e dados de teste.

Requisitos de compatibilidade de modelo

Dependendo do caso de uso, a API NLClassifier pode carregar um modelo do TFLite com ou sem metadados do modelo do TFLite. Confira exemplos de criação de metadados para classificadores de linguagem natural usando a API TensorFlow Lite Metadata Writer.

Os modelos compatíveis precisam atender aos seguintes requisitos:

• Tensor de entrada: (kTfLiteString/kTfLiteInt32)

  • A entrada do modelo precisa ser uma string de entrada bruta de tensor kTfLiteString ou um tensor kTfLiteInt32 para índices de entrada bruta de string tokenizada por regex.
  • Se o tipo de entrada for kTfLiteString, não será necessário usar metadados no modelo.
  • Se o tipo de entrada for kTfLiteInt32, um RegexTokenizer precisará ser configurado nos metadados do tensor de entrada.

• Tensor de pontuação de saída: (kTfLiteUInt8/kTfLiteInt8/kTfLiteInt16/kTfLiteFloat32/kTfLiteFloat64)

  • Tensor de saída obrigatório para a pontuação de cada categoria classificada.

  • Se o tipo for um dos tipos de número inteiro, faça a dequantização para double/float nas plataformas correspondentes.

  • Pode ter um arquivo associado opcional no Metadata correspondente do tensor de saída para rótulos de categoria. O arquivo precisa ser de texto simples com um rótulo por linha, e o número de rótulos precisa corresponder ao número de categorias conforme as saídas do modelo. Confira o arquivo de exemplo de rótulo.

• Tensor de rótulo de saída: (kTfLiteString/kTfLiteInt32)

  • Tensor de saída opcional para o rótulo de cada categoria. Precisa ter o mesmo comprimento do tensor de pontuação de saída. Se esse tensor não estiver presente, a API usará índices de pontuação como nomes de classe.

  • Será ignorado se o arquivo de rótulo associado estiver presente nos metadados do tensor de pontuação de saída.