Hướng dẫn về phân đoạn hình ảnh tương tác dành cho Python

Tác vụ Trình phân đoạn hình ảnh tương tác của MediaPipe lấy một vị trí trong hình ảnh, ước tính ranh giới của đối tượng tại vị trí đó và trả về dữ liệu phân đoạn cho đối tượng dưới dạng dữ liệu hình ảnh. Những hướng dẫn này cho bạn biết cách sử dụng Trình phân đoạn hình ảnh tương tác bằng ngôn ngữ Python. Để biết thêm thông tin về các tính năng, mô hình và tuỳ chọn cấu hình của tác vụ này, hãy xem phần Tổng quan.

Ví dụ về mã

Mã mẫu cho Trình phân đoạn hình ảnh tương tác cung cấp cách triển khai đầy đủ nhiệm vụ này trong Python để bạn tham khảo. Mã này giúp bạn kiểm thử nhiệm vụ này và bắt đầu xây dựng ứng dụng phân đoạn hình ảnh tương tác của riêng mình. Bạn có thể xem, chạy và chỉnh sửa mã ví dụ của Trình phân đoạn hình ảnh tương tác chỉ bằng trình duyệt web.

Thiết lập

Phần này mô tả các bước chính để thiết lập môi trường phát triển và dự án mã dành riêng cho việc sử dụng Trình phân đoạn hình ảnh tương tác. Để biết thông tin chung về cách thiết lập môi trường phát triển cho việc sử dụng các tác vụ MediaPipe, bao gồm cả các yêu cầu về phiên bản nền tảng, hãy xem Hướng dẫn thiết lập cho Python. Bạn có thể xem lại mã nguồn của ví dụ này trên GitHub

Gói

Tác vụ Trình phân đoạn hình ảnh tương tác MediaPipe yêu cầu gói mediapipe. Bạn có thể cài đặt các phần phụ thuộc bắt buộc bằng lệnh sau:

$ python -m pip install mediapipe

Nhập

Nhập các lớp sau để truy cập vào các hàm tác vụ của Trình phân đoạn hình ảnh tương tác:

import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision

Mẫu

Tác vụ Trình phân đoạn hình ảnh tương tác của MediaPipe yêu cầu một mô hình đã huấn luyện tương thích với tác vụ này. Để biết thêm thông tin về các mô hình đã huấn luyện hiện có cho Trình phân đoạn hình ảnh tương tác, hãy xem phần Mô hình trong phần tổng quan về tác vụ.

Chọn và tải mô hình xuống, sau đó lưu trữ mô hình đó trong thư mục dự án:

model_path = '/absolute/path/to/model.tflite'

Chỉ định đường dẫn của mô hình trong tham số model_asset_path, như minh hoạ bên dưới:

base_options = BaseOptions(model_asset_path=model_path)

Tạo việc cần làm

Tác vụ Trình phân đoạn hình ảnh tương tác MediaPipe sử dụng hàm create_from_options để thiết lập tác vụ. Hàm create_from_options chấp nhận các giá trị cho các tuỳ chọn cấu hình để xử lý. Để biết thêm thông tin về các tuỳ chọn cấu hình, hãy xem phần Tuỳ chọn cấu hình. Mã sau đây minh hoạ cách tạo và định cấu hình tác vụ này.

BaseOptions = mp.tasks.BaseOptions
InteractiveSegmenter = mp.tasks.vision.InteractiveSegmenter
InteractiveSegmenterOptions = mp.tasks.vision.InteractiveSegmenterOptions
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a image segmenter instance with the image mode:
options = InteractiveSegmenterOptions(
    base_options=BaseOptions(model_asset_path='/path/to/model.task'),
    running_mode=VisionRunningMode.IMAGE,
    output_type=InteractiveSegmenterOptions.OutputType.CATEGORY_MASK)
with InteractiveSegmenter.create_from_options(options) as segmenter:
# segmenter is initialized and ready to use

Các lựa chọn về cấu hình

Tác vụ này có các tuỳ chọn cấu hình sau đây cho các ứng dụng Python:

Chuẩn bị dữ liệu

Chuẩn bị dữ liệu đầu vào dưới dạng tệp hình ảnh hoặc mảng numpy, sau đó chuyển đổi dữ liệu đó thành đối tượng mediapipe.Image.

# Load the input image from an image file.
mp_image = mp.Image.create_from_file('/path/to/image')

# Load the input image from a numpy array.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)

Để xem ví dụ về mã cho thấy cách chuẩn bị dữ liệu cho Trình phân đoạn hình ảnh tương tác, hãy xem ví dụ về mã.

Chạy tác vụ

Trình phân đoạn hình ảnh tương tác sử dụng hàm segment để kích hoạt các suy luận. Đối với việc phân đoạn hình ảnh, quy trình này bao gồm việc xử lý trước dữ liệu đầu vào, chạy mô hình phân đoạn và xử lý sau đầu ra mô hình thô thành mặt nạ được phân đoạn.

Ví dụ về mã sau đây cho thấy cách thực thi quá trình xử lý bằng mô hình tác vụ.

RegionOfInterest = vision.InteractiveSegmenterRegionOfInterest
# Perform image segmentation on the provided single image.
# The image segmenter must be created with the image mode.
roi = RegionOfInterest(format=RegionOfInterest.Format.KEYPOINT,
                          keypoint=NormalizedKeypoint(x, y))
segmented_masks = segmenter.segment(mp_image, roi)

Để biết ví dụ đầy đủ hơn về cách chạy các suy luận của Trình phân đoạn hình ảnh tương tác, hãy xem ví dụ về mã.

Xử lý và hiển thị kết quả

Kết quả đầu ra của Trình phân đoạn hình ảnh tương tác là một danh sách dữ liệu Image và có thể bao gồm mặt nạ danh mục, mặt nạ độ tin cậy hoặc cả hai, tuỳ thuộc vào những gì bạn đặt khi định cấu hình tác vụ. Nếu bạn đặt output_category_mask thành True, kết quả sẽ là một danh sách chứa một mặt nạ phân đoạn dưới dạng hình ảnh uint8. Giá trị pixel cho biết liệu pixel đó có phải là một phần của đối tượng tại khu vực quan tâm hay không. chỉ mục danh mục được nhận dạng của hình ảnh đầu vào. Nếu bạn đặt output_confidence_masks thành True, kết quả sẽ là danh sách các kênh chứa giá trị pixel trong phạm vi [0,1], đại diện cho điểm số tin cậy của pixel thuộc đối tượng tại khu vực quan tâm.

Các phần sau đây giải thích thêm về dữ liệu đầu ra của tác vụ này:

Mặt nạ danh mục

Các hình ảnh sau đây cho thấy hình ảnh trực quan của kết quả tác vụ cho mặt nạ giá trị danh mục với một khu vực điểm quan tâm được chỉ định. Mỗi pixel là một giá trị uint8 cho biết liệu pixel đó có thuộc đối tượng nằm trong khu vực quan tâm hay không. Vòng tròn đen trắng trên hình ảnh thứ hai cho biết khu vực quan tâm đã chọn.

Kết quả đầu ra của mặt nạ danh mục và hình ảnh gốc. Hình ảnh nguồn từ tập dữ liệu Pascal VOC 2012.

Mặt nạ độ tin cậy

Đầu ra của mặt nạ độ tin cậy chứa các giá trị float trong khoảng [0, 1] cho mỗi kênh đầu vào hình ảnh. Giá trị càng cao thì độ tin cậy càng cao rằng pixel hình ảnh là một phần của đối tượng nằm trong khu vực quan tâm.