Tác vụ Trình nhúng văn bản MediaPipe cho phép bạn tạo bản trình bày dạng số của dữ liệu văn bản để nắm bắt ý nghĩa ngữ nghĩa. Các hướng dẫn này cho bạn biết cách sử dụng Trình nhúng văn bản bằng Python.
Để biết thêm thông tin về các tính năng, mô hình và lựa chọn cấu hình của nhiệm vụ này, hãy xem phần Tổng quan.
Ví dụ về mã
Mã mẫu cho Trình nhúng văn bản cung cấp cách triển khai đầy đủ tác vụ này trong Python để bạn tham khảo. Mã này giúp bạn kiểm thử tác vụ này và bắt đầu tạo trình nhúng văn bản của riêng mình. Bạn có thể xem, chạy và chỉnh sửa mã ví dụ về Trình nhúng văn bản chỉ bằng trình duyệt web với Google Colab. Bạn có thể xem mã nguồn cho ví dụ này trên GitHub.
Thiết lập
Phần này mô tả các bước chính để thiết lập môi trường phát triển và viết mã cho các dự án dành riêng cho việc sử dụng Trình nhúng văn bản. Để biết thông tin chung về cách thiết lập môi trường phát triển nhằm sử dụng các tác vụ của MediaPipe, bao gồm cả các yêu cầu về phiên bản nền tảng, hãy xem Hướng dẫn thiết lập dành cho Python.
Gói
Trình nhúng văn bản sử dụng gói pip mediapipe. Bạn có thể cài đặt phần phụ thuộc bằng các đoạn mã sau:
$ python -m pip install mediapipe
Nhập
Nhập các lớp sau để truy cập vào các chức năng tác vụ của Trình nhúng văn bản:
import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import text
Mẫu
Tác vụ Trình nhúng văn bản MediaPipe cần có một mô hình đã qua huấn luyện tương thích với tác vụ này. Để biết thêm thông tin về các mô hình đã huấn luyện hiện có cho Trình nhúng văn bản, hãy xem tổng quan về tác vụ phần Mô hình.
Chọn và tải một mô hình xuống rồi lưu trữ trong thư mục cục bộ. Bạn có thể sử dụng mô hình UniversalSentenceEncoder được đề xuất.
model_path = '/absolute/path/to/universal_sentence_encoder.tflite'
Chỉ định đường dẫn của mô hình trong tham số model_asset_path như dưới đây:
base_options = BaseOptions(model_asset_path=model_path)
Tạo việc cần làm
Tác vụ Trình nhúng văn bản MediaPipe sử dụng hàm create_from_options để thiết lập tác vụ đó. Hàm create_from_options chấp nhận các giá trị cho các tuỳ chọn cấu hình để đặt các tuỳ chọn cho trình nhúng. Bạn cũng có thể khởi tạo tác vụ bằng cách sử dụng hàm nhà máy create_from_model_path. Hàm create_from_model_path chấp nhận đường dẫn tương đối hoặc tuyệt đối đến tệp mô hình được huấn luyện. Để biết thêm thông tin về các lựa chọn cấu hình, hãy xem phần Các lựa chọn cấu hình.
Mã sau đây minh hoạ cách tạo và định cấu hình tác vụ này.
import mediapipe as mp
BaseOptions = mp.tasks.BaseOptions
TextEmbedder = mp.tasks.text.TextEmbedder
TextEmbedderOptions = mp.tasks.text.TextEmbedderOptions
# For creating a text embedder instance:
options = TextEmbedderOptions(
base_options=BaseOptions(model_asset_path=model_path),
quantize=True)
text_embedder = TextEmbedder.create_from_options(options)
Các lựa chọn về cấu hình
Tác vụ này có các lựa chọn cấu hình sau đây cho các ứng dụng Python:
| Tên lựa chọn | Nội dung mô tả | Khoảng giá trị | Giá trị mặc định |
|---|---|---|---|
l2_normalize |
Liệu có chuẩn hoá vectơ tính năng được trả về với chuẩn L2 hay không. Chỉ sử dụng lựa chọn này nếu mô hình chưa chứa thành phần TFLite Op L2_NORMALIZATION gốc. Trong hầu hết các trường hợp, trường hợp này đã được chuẩn hoá và do đó, việc chuẩn hoá L2 có thể đạt được thông qua khả năng dự đoán TFLite mà không cần đến tuỳ chọn này. | Boolean |
False |
quantize |
Liệu hoạt động nhúng được trả về có phải được lượng tử hoá thành byte thông qua lượng tử hoá vô hướng hay không. Các hoạt động nhúng được ngầm giả định là chuẩn đơn vị và do đó, mọi thứ nguyên đều đảm bảo có giá trị trong [-1.0, 1.0]. Hãy sử dụng tuỳ chọn l2_normalize nếu bạn không muốn làm vậy. | Boolean |
False |
Chuẩn bị dữ liệu
Trình nhúng văn bản hoạt động với dữ liệu văn bản (str). Tác vụ này sẽ xử lý tiền xử lý đầu vào dữ liệu, bao gồm cả việc mã hoá và tiền xử lý tensor.
Mọi quá trình xử lý trước đều được xử lý trong hàm embed. Bạn không cần phải xử lý thêm văn bản nhập trước.
input_text = "The input text to be embedded."
Chạy tác vụ
Trình nhúng văn bản sử dụng hàm embed để kích hoạt thông tin dự đoán. Đối với hoạt động nhúng văn bản, điều này có nghĩa là trả về các vectơ nhúng cho văn bản đầu vào.
Mã sau đây minh hoạ cách thực thi quá trình xử lý bằng mô hình tác vụ.
# Perform text embedding on the provided input text.
embedding_result = text_embedder.embed(input_text)
Xử lý và hiển thị kết quả
Trình nhúng văn bản sẽ xuất ra một TextEmbedderResult chứa danh sách các lượt nhúng (dấu phẩy động hoặc lượng tử vô hướng) cho văn bản đầu vào.
Sau đây là ví dụ về dữ liệu đầu ra của nhiệm vụ này:
TextEmbedderResult:
Embedding #0 (sole embedding head):
float_embedding: {0.2345f, 0.1234f, ..., 0.6789f}
head_index: 0
Bạn có thể so sánh mức độ tương đồng về mặt ngữ nghĩa của 2 cách nhúng bằng cách sử dụng hàm TextEmbedder.cosine_similarity. Hãy xem mã ví dụ sau đây.
# Compute cosine similarity.
similarity = TextEmbedder.cosine_similarity(
embedding_result.embeddings[0],
other_embedding_result.embeddings[0])