자연어 분류기 통합

작업 라이브러리의 NLClassifier API는 입력 텍스트를 다양한 카테고리로 분류하며 대부분의 텍스트 분류 모델을 처리할 수 있는 다용도 구성 가능한 API입니다.

NLClassifier API의 주요 기능

  • 단일 문자열을 입력으로 받아 문자열로 분류를 실행하고 <label, score=""> 쌍을 분류 결과로 출력합니다.</label,>

  • 입력 텍스트에 사용할 수 있는 선택적 정규식 토큰화입니다.

  • 다양한 분류 모델에 맞게 구성할 수 있습니다.

지원되는 NLClassifier 모델

다음 모델은 NLClassifier API와 호환됩니다.

Java에서 추론 실행

Android 앱에서 NLClassifier를 사용하는 방법의 예는 텍스트 분류 참조 앱을 참고하세요.

1단계: Gradle 종속 항목 및 기타 설정 가져오기

모델이 실행될 Android 모듈의 애셋 디렉터리에 .tflite 모델 파일을 복사합니다. 파일을 압축하지 않도록 지정하고 TensorFlow Lite 라이브러리를 모듈의 build.gradle 파일에 추가합니다.

android {
    // Other settings

    // Specify tflite file should not be compressed for the app apk
    aaptOptions {
        noCompress "tflite"
    }

}

dependencies {
    // Other dependencies

    // Import the Task Vision Library dependency
    implementation 'org.tensorflow:tensorflow-lite-task-text:0.4.4'
    // Import the GPU delegate plugin Library for GPU inference
    implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}

2단계: API를 사용하여 추론 실행

// Initialization, use NLClassifierOptions to configure input and output tensors
NLClassifierOptions options =
    NLClassifierOptions.builder()
        .setBaseOptions(BaseOptions.builder().useGpu().build())
        .setInputTensorName(INPUT_TENSOR_NAME)
        .setOutputScoreTensorName(OUTPUT_SCORE_TENSOR_NAME)
        .build();
NLClassifier classifier =
    NLClassifier.createFromFileAndOptions(context, modelFile, options);

// Run inference
List<Category> results = classifier.classify(input);

NLClassifier를 구성하는 추가 옵션은 소스 코드를 참고하세요.

Swift에서 추론 실행

1단계: CocoaPods 가져오기

Podfile에 TensorFlowLiteTaskText pod 추가

target 'MySwiftAppWithTaskAPI' do
  use_frameworks!
  pod 'TensorFlowLiteTaskText', '~> 0.4.4'
end

2단계: API를 사용하여 추론 실행

// Initialization
var modelOptions:TFLNLClassifierOptions = TFLNLClassifierOptions()
modelOptions.inputTensorName = inputTensorName
modelOptions.outputScoreTensorName = outputScoreTensorName
let nlClassifier = TFLNLClassifier.nlClassifier(
      modelPath: modelPath,
      options: modelOptions)

// Run inference
let categories = nlClassifier.classify(text: input)

자세한 내용은 소스 코드를 참고하세요.

C++에서 추론 실행

// Initialization
NLClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<NLClassifier> classifier = NLClassifier::CreateFromOptions(options).value();

// Run inference with your input, `input_text`.
std::vector<core::Category> categories = classifier->Classify(input_text);

자세한 내용은 소스 코드를 참고하세요.

Python에서 추론 실행

1단계: pip 패키지 설치

pip install tflite-support

2단계: 모델 사용

# Imports
from tflite_support.task import text

# Initialization
classifier = text.NLClassifier.create_from_file(model_path)

# Run inference
text_classification_result = classifier.classify(text)

NLClassifier를 구성하는 추가 옵션은 소스 코드를 참고하세요.

결과 예시

다음은 영화 리뷰 모델의 분류 결과의 예입니다.

입력: '시간 낭비야.'

출력:

category[0]: 'Negative' : '0.81313'
category[1]: 'Positive' : '0.18687'

자체 모델과 테스트 데이터로 간단한 NLClassifier용 CLI 데모 도구를 사용해 보세요.

모델 호환성 요구사항

사용 사례에 따라 NLClassifier API는 TFLite 모델 메타데이터가 있거나 없는 TFLite 모델을 로드할 수 있습니다. TensorFlow Lite Metadata Writer API를 사용하여 자연어 분류기의 메타데이터를 만드는 예를 참고하세요.

호환되는 모델은 다음 요구사항을 충족해야 합니다.

  • 입력 텐서: (kTfLiteString/kTfLiteInt32)

    • 모델의 입력은 kTfLiteString 텐서 원시 입력 문자열 또는 원시 입력 문자열의 정규식 토큰화된 인덱스용 kTfLiteInt32 텐서여야 합니다.
    • 입력 유형이 kTfLiteString인 경우 모델에 메타데이터가 필요하지 않습니다.
    • 입력 유형이 kTfLiteInt32인 경우 입력 텐서의 Metadata에 RegexTokenizer를 설정해야 합니다.

  • 출력 점수 텐서:(kTfLiteUInt8/kTfLiteInt8/kTfLiteInt16/kTfLiteFloat32/kTfLiteFloat64)

    • 분류된 각 카테고리의 점수에 대한 필수 출력 텐서입니다.

    • 유형이 Int 유형 중 하나인 경우 해당 플랫폼에 맞게 double/float로 역양자화합니다.

    • 카테고리 라벨의 출력 텐서에 해당하는 메타데이터에 선택적 연결 파일이 있을 수 있습니다. 파일은 줄당 하나의 라벨이 있는 일반 텍스트 파일이어야 하며 라벨 수는 모델 출력의 카테고리 수와 일치해야 합니다. 라벨 파일 예시를 참고하세요.

  • 출력 라벨 텐서: (kTfLiteString/kTfLiteInt32)

    • 각 카테고리의 라벨에 대한 선택적 출력 텐서입니다. 출력 점수 텐서와 길이가 같아야 합니다. 이 텐서가 없으면 API는 점수 색인을 클래스 이름으로 사용합니다.

    • 연결된 라벨 파일이 출력 점수 텐서의 메타데이터에 있으면 무시됩니다.