Hướng dẫn phân loại văn bản cho Python

Nhiệm vụ của Trình phân loại văn bản MediaPipe cho phép bạn phân loại văn bản thành một tập hợp các danh mục đã xác định, chẳng hạn như cảm xúc tích cực hoặc tiêu cực. Các danh mục được xác định bạn sử dụng cũng như cách mô hình đó được huấn luyện. Những hướng dẫn này chỉ cho bạn cách sử dụng Trình phân loại văn bản bằng Python.

Bạn có thể xem công việc này trong thực tế bằng cách xem Bản minh hoạ trên web. Để biết thêm thông tin về các tính năng, mô hình và các tuỳ chọn cấu hình của tác vụ này, xem Tổng quan.

Ví dụ về mã

Mã ví dụ cho Trình phân loại văn bản cung cấp cách triển khai hoàn chỉnh công việc bằng Python để bạn tham khảo. Mã này giúp bạn kiểm thử công việc này và bắt đầu xây dựng ứng dụng phân loại văn bản của riêng bạn. Bạn có thể xem, chạy và chỉnh sửa Trình phân loại văn bản mã ví dụ chỉ bằng trình duyệt web.

Nếu bạn đang triển khai Trình phân loại văn bản cho Raspberry Pi, hãy tham khảo Ví dụ về Raspberry Pi ứng dụng.

Thiết lập

Phần này mô tả các bước chính để thiết lập môi trường phát triển và lập trình các dự án cụ thể để sử dụng Text Classifier (Phân loại văn bản). Để biết thông tin chung về thiết lập môi trường phát triển để sử dụng MediaPipe Tasks, bao gồm yêu cầu về phiên bản nền tảng, hãy xem Hướng dẫn thiết lập cho Python.

Gói

Trình phân loại văn bản sử dụng gói pip mediapipe. Bạn có thể cài đặt các phần phụ thuộc này bằng các thành phần sau:

$ python -m pip install mediapipe

Nhập

Nhập các lớp sau để truy cập vào các hàm tác vụ của Trình phân loại văn bản:

from mediapipe.tasks import python
from mediapipe.tasks.python import text

Mẫu

Nhiệm vụ Trình phân loại văn bản MediaPipe cần có một mô hình đã huấn luyện tương thích với công việc. Để biết thêm thông tin về các mô hình đã huấn luyện hiện có cho Trình phân loại văn bản, hãy xem tổng quan về nhiệm vụ phần Mô hình.

Chọn và tải mô hình xuống, sau đó lưu trữ mô hình đó trong một thư mục trên máy:

model_path = '/absolute/path/to/text_classifier.tflite'

Chỉ định đường dẫn của mô hình bằng đối tượng BaseOptions model_asset_path như sau:

base_options = BaseOptions(model_asset_path=model_path)

Tạo việc cần làm

Tác vụ Trình phân loại văn bản MediaPipe sử dụng hàm create_from_options để thiết lập công việc. Hàm create_from_options chấp nhận các giá trị cho cấu hình để đặt các tuỳ chọn phân loại. Bạn cũng có thể bắt đầu tác vụ bằng cách sử dụng hàm factory create_from_model_path. create_from_model_path sẽ chấp nhận một đường dẫn tương đối hoặc tuyệt đối đến tệp mô hình được huấn luyện. Để biết thêm thông tin về các chế độ cấu hình, hãy xem Tuỳ chọn cấu hình.

Mã sau đây minh hoạ cách tạo và định cấu hình tác vụ này.

base_options = python.BaseOptions(model_asset_path=model_path)
options = text.TextClassifierOptions(base_options=base_options)

with python.text.TextClassifier.create_from_options(options) as classifier:
  classification_result = classifier.classify(text)

Các lựa chọn về cấu hình

Nhiệm vụ này có các lựa chọn cấu hình sau đây cho ứng dụng Android:

Tên lựa chọn Mô tả Khoảng giá trị Giá trị mặc định
display_names_locale Đặt ngôn ngữ của nhãn để sử dụng cho tên hiển thị được cung cấp trong siêu dữ liệu về mô hình của công việc (nếu có). Mặc định là en cho Tiếng Anh. Bạn có thể thêm nhãn đã bản địa hoá vào siêu dữ liệu của mô hình tuỳ chỉnh bằng TensorFlow Lite Metadata Writer API Mã ngôn ngữ vi
max_results Đặt số lượng kết quả phân loại có điểm số cao nhất (không bắt buộc) thành lợi nhuận. Nếu < 0, tất cả kết quả có sẵn sẽ được trả về. Bất kỳ số dương nào -1
score_threshold Đặt ngưỡng điểm số dự đoán ghi đè ngưỡng điểm được cung cấp trong siêu dữ liệu của mô hình (nếu có). Những kết quả thấp hơn giá trị này sẽ bị từ chối. Số thực bất kỳ Chưa đặt
category_allowlist Đặt danh sách các tên danh mục được phép (không bắt buộc). Nếu ô trống, kết quả phân loại có tên danh mục không nằm trong tập hợp này sẽ là đã lọc ra. Tên danh mục trùng lặp hoặc không xác định sẽ bị bỏ qua. Lựa chọn này loại trừ lẫn nhau với category_denylist và sử dụng cả hai đều dẫn đến lỗi. Chuỗi bất kỳ Chưa đặt
category_denylist Đặt danh sách tên danh mục không được phép (không bắt buộc). Nếu kết quả phân loại không trống, có tên danh mục nằm trong tập hợp này sẽ được lọc bị loại. Tên danh mục trùng lặp hoặc không xác định sẽ bị bỏ qua. Lựa chọn này mang tính tương đồng chỉ có với category_allowlist và sử dụng cả hai đều dẫn đến lỗi. Chuỗi bất kỳ Chưa đặt

Chuẩn bị dữ liệu

Trình phân loại văn bản hoạt động với dữ liệu (str) của văn bản. Tác vụ này sẽ xử lý việc nhập dữ liệu xử lý trước, bao gồm cả mã hoá và xử lý trước tensor.

Mọi quy trình xử lý trước đều được xử lý trong hàm classify. Không cần để xử lý trước thêm văn bản đầu vào.

input_text = 'The input text to be classified.'

Chạy tác vụ

Trình phân loại văn bản sử dụng hàm classify để kích hoạt thông tin suy luận. Đối với văn bản thì tức là trả về các danh mục có thể có cho văn bản đầu vào.

Mã sau đây minh hoạ cách thực thi quá trình xử lý bằng tác vụ mô hình.

with python.text.TextClassifier.create_from_options(options) as classifier:
  classification_result = classifier.classify(text)

Xử lý và hiện kết quả

Trình phân loại văn bản xuất ra đối tượng TextClassifierResult chứa danh sách danh mục có thể sử dụng cho văn bản đầu vào. Các danh mục này được xác định theo mô hình mà bạn sử dụng, vì vậy nếu bạn muốn các danh mục khác nhau, hãy chọn một mô hình khác, hoặc huấn luyện lại một chiến dịch hiện tại.

Sau đây là ví dụ về dữ liệu đầu ra của tác vụ này:

TextClassificationResult:
  Classification #0 (single classification head):
    ClassificationEntry #0:
      Category #0:
        category name: "positive"
        score: 0.8904
        index: 0
      Category #1:
        category name: "negative"
        score: 0.1096
        index: 1

Kết quả này nhận được bằng cách chạy trình phân loại BERT trên văn bản đầu vào: "an imperfect but overall entertaining mystery".