Интегрировать классификатор естественного языка

API NLClassifier библиотеки задач классифицирует входной текст по различным категориям и представляет собой универсальный и настраиваемый API, способный обрабатывать большинство моделей классификации текста.

Ключевые возможности API NLClassifier

• Принимает одну строку в качестве входных данных, выполняет классификацию со строкой и выводит пары как результаты классификации.

• Для входного текста доступна дополнительная токенизация регулярных выражений.

• Возможность настройки для адаптации различных моделей классификации.

Поддерживаемые модели NLClassifier

Следующие модели гарантированно совместимы с API NLClassifier .

• Модель классификации тональности рецензий на фильмы .

• Модели со спецификацией average_word_vec созданные TensorFlow Lite Model Maker для классификации текстов .

• Пользовательские модели, отвечающие требованиям совместимости моделей .

Выполнение вывода на Java

Пример использования NLClassifier в приложении для Android см. в справочном приложении «Классификация текста» .

Шаг 1: Импорт зависимости Gradle и других настроек

Скопируйте файл модели .tflite в каталог ресурсов модуля Android, где он будет запущен. Укажите, что файл не нужно сжимать, и добавьте библиотеку TensorFlow Lite в файл build.gradle модуля:

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Vision Library dependency
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.4.4'
    // Import the GPU delegate plugin Library for GPU inference
    implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}

Шаг 2: Выполнение вывода с использованием API

// Initialization, use NLClassifierOptions to configure input and output tensors
NLClassifierOptions options =
    NLClassifierOptions.builder()
        .setBaseOptions(BaseOptions.builder().useGpu().build())
        .setInputTensorName(INPUT_TENSOR_NAME)
        .setOutputScoreTensorName(OUTPUT_SCORE_TENSOR_NAME)
        .build();
NLClassifier classifier =
    NLClassifier.createFromFileAndOptions(context, modelFile, options);

// Run inference
List<Category> results = classifier.classify(input);

Дополнительные параметры настройки NLClassifier см. в исходном коде .

Выполнить вывод в Swift

Шаг 1: Импорт CocoaPods

Добавьте модуль TensorFlowLiteTaskText в Podfile

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.4.4'
end

Шаг 2: Выполнение вывода с использованием API

// Initialization
var modelOptions:TFLNLClassifierOptions = TFLNLClassifierOptions()
modelOptions.inputTensorName = inputTensorName
modelOptions.outputScoreTensorName = outputScoreTensorName
let nlClassifier = TFLNLClassifier.nlClassifier(
      modelPath: modelPath,
      options: modelOptions)

// Run inference
let categories = nlClassifier.classify(text: input)

Более подробную информацию смотрите в исходном коде .

Выполнить вывод в C++

// Initialization
NLClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<NLClassifier> classifier = NLClassifier::CreateFromOptions(options).value();

// Run inference with your input, `input_text`.
std::vector<core::Category> categories = classifier->Classify(input_text);

Более подробную информацию смотрите в исходном коде .

Выполнить вывод на Python

Шаг 1: Установка пакета pip

pip install tflite-support

Шаг 2: Использование модели

# Imports
from tflite_support.task import text

# Initialization
classifier = text.NLClassifier.create_from_file(model_path)

# Run inference
text_classification_result = classifier.classify(text)

Дополнительные параметры настройки NLClassifier см. в исходном коде .

Примеры результатов

Вот пример результатов классификации модели обзора фильмов .

Ввод: «Какая пустая трата моего времени».

Выход:

category[0]: 'Negative' : '0.81313'
category[1]: 'Positive' : '0.18687'

Попробуйте простой демонстрационный инструмент CLI для NLClassifier с вашей собственной моделью и тестовыми данными.

Требования к совместимости моделей

В зависимости от варианта использования, API NLClassifier может загружать модель TFLite с метаданными модели TFLite или без них. См. примеры создания метаданных для классификаторов естественного языка с помощью API TensorFlow Lite Metadata Writer .

Совместимые модели должны соответствовать следующим требованиям:

• Входной тензор: (kTfLiteString/kTfLiteInt32)

  • Входные данные модели должны представлять собой либо необработанную входную строку тензора kTfLiteString, либо тензор kTfLiteInt32 для токенизированных регулярным выражением индексов необработанной входной строки.
  • Если тип входных данных — kTfLiteString, метаданные для модели не требуются.
  • Если тип входных данных — kTfLiteInt32, необходимо настроить RegexTokenizer в метаданных входного тензора.

• Выходной тензор оценок: (kTfLiteUInt8/kTfLiteInt8/kTfLiteInt16/kTfLiteFloat32/kTfLiteFloat64)

  • Обязательный выходной тензор для оценки каждой классифицированной категории.

  • Если тип — один из типов Int, деквантуйте его до double/float для соответствующих платформ.

  • Может иметь необязательный связанный файл в соответствующих метаданных выходного тензора для меток категорий. Файл должен быть простым текстовым файлом с одной меткой на строку, а количество меток должно соответствовать количеству категорий, выводимых моделью. См. пример файла меток .

• Тензор выходной метки: (kTfLiteString/kTfLiteInt32)

  • Необязательный выходной тензор для метки каждой категории должен иметь ту же длину, что и выходной тензор оценок. Если этот тензор отсутствует, API использует индексы оценок в качестве имён классов.

  • Будет проигнорирован, если соответствующий файл метки присутствует в метаданных тензора выходных оценок.