Tìm hiểu thêm về thông báo tại hội nghị I/O của Google AI Edge

Trang này được dịch bởi Cloud Translation API.

Hướng dẫn về phân đoạn hình ảnh tương tác dành cho Android

Tác vụ của Công cụ phân đoạn hình ảnh tương tác MediaPipe lấy một vị trí trong một hình ảnh, ước tính ranh giới của một đối tượng tại vị trí đó và trả về phân đoạn cho đối tượng dưới dạng dữ liệu hình ảnh. Các hướng dẫn này cho bạn biết cách sử dụng Trình phân đoạn hình ảnh tương tác với các ứng dụng Android. Bạn có thể xem mã ví dụ được mô tả trong những hướng dẫn này trên GitHub. Để biết thêm thông tin về các tính năng, mô hình và lựa chọn cấu hình của nhiệm vụ này, hãy xem phần Tổng quan.

Ví dụ về mã

Ví dụ về mã MediaPipe Tasks là cách triển khai đơn giản của ứng dụng Tương tác hình ảnh phân đoạn dành cho Android. Ví dụ này áp dụng với các hình ảnh được chọn từ thư viện thiết bị.

Bạn có thể dùng ứng dụng này làm điểm xuất phát cho ứng dụng Android của riêng mình hoặc tham chiếu đến ứng dụng này khi sửa đổi một ứng dụng hiện có. Mã ví dụ về Interactive Image Segmenter được lưu trữ trên GitHub.

Tải mã xuống

Hướng dẫn sau đây chỉ cho bạn cách tạo bản sao cục bộ của mã ví dụ bằng công cụ dòng lệnh git.

Cách tải mã ví dụ xuống:

Sao chép kho lưu trữ git bằng lệnh sau:

git clone https://github.com/google-ai-edge/mediapipe-samples

Định cấu hình thực thể git để sử dụng quy trình thanh toán thưa (không bắt buộc), nhờ đó bạn chỉ có các tệp cho ứng dụng ví dụ về Phân đoạn hình ảnh tương tác:
```
cd mediapipe
git sparse-checkout init --cone
git sparse-checkout set examples/interactive_segmentation/android
```

Sau khi tạo phiên bản cục bộ của mã ví dụ, bạn có thể nhập dự án vào Android Studio và chạy ứng dụng. Để được hướng dẫn, hãy xem Hướng dẫn thiết lập dành cho Android.

Thành phần chính

Các tệp sau đây chứa mã quan trọng cho ứng dụng mẫu phân đoạn hình ảnh này:

InteractiveSegmentationHelper.kt – Khởi chạy tác vụ Tương tác Image Segmenter và xử lý lựa chọn mô hình cũng như uỷ quyền.
OverlayView.kt – Xử lý và định dạng kết quả phân đoạn.

Thiết lập

Phần này mô tả các bước chính để thiết lập môi trường phát triển và mã dự án để sử dụng Công cụ phân đoạn hình ảnh tương tác. Để biết thông tin chung về cách thiết lập môi trường phát triển nhằm sử dụng các tác vụ của MediaPipe, bao gồm cả yêu cầu về phiên bản nền tảng, hãy xem Hướng dẫn thiết lập dành cho Android.

Phần phụ thuộc

Trình phân đoạn hình ảnh tương tác sử dụng thư viện com.google.mediapipe:tasks-vision. Thêm phần phụ thuộc này vào tệp build.gradle của dự án phát triển ứng dụng Android. Nhập các phần phụ thuộc bắt buộc bằng mã sau:

dependencies {
    ...
    implementation 'com.google.mediapipe:tasks-vision:latest.release'
}

Mẫu

Tác vụ Phân đoạn hình ảnh tương tác MediaPipe cần có một mô hình đã qua huấn luyện tương thích với tác vụ này. Để biết thêm thông tin về các mô hình đã huấn luyện hiện có cho Công cụ phân đoạn hình ảnh tương tác, hãy xem phần Mô hình tổng quan về nhiệm vụ.

Chọn và tải mô hình xuống rồi lưu trữ trong thư mục dự án của bạn:

<dev-project-root>/src/main/assets

Sử dụng phương thức BaseOptions.Builder.setModelAssetPath() để chỉ định đường dẫn mà mô hình sử dụng. Phương thức này được thể hiện trong ví dụ về mã ở phần tiếp theo.

Trong mã mẫu của Công cụ phân đoạn hình ảnh tương tác, mô hình được xác định ở lớp InteractiveSegmenterHelper.kt trong hàm setupInteractiveSegmenter().

Tạo việc cần làm

Bạn có thể dùng hàm createFromOptions để tạo việc cần làm. Hàm createFromOptions chấp nhận các tuỳ chọn cấu hình, bao gồm cả các loại dữ liệu đầu ra của mặt nạ. Để biết thêm thông tin về các lựa chọn cấu hình, hãy xem phần Tổng quan về cấu hình.

InteractiveSegmenterOptions options =
  InteractiveSegmenterOptions.builder()
    .setBaseOptions(
      BaseOptions.builder().setModelAssetPath("model.tflite").build())
    .setOutputCategoryMask(true)
    .setOutputConfidenceMasks(false)
    .setResultListener((result, inputImage) -> {
         // Process the segmentation result here.
    })
    .setErrorListener((result, inputImage) -> {
         // Process the segmentation errors here.
    })    .build();
interactivesegmenter = InteractiveSegmenter.createFromOptions(context, options);

Để biết ví dụ chi tiết hơn về cách thiết lập tác vụ này, hãy xem hàm setupInteractiveSegmenter() của lớp InteractiveSegmenterHelper.

Các lựa chọn về cấu hình

Tác vụ này có các lựa chọn cấu hình sau đây cho ứng dụng Android:

Tên lựa chọn	Nội dung mô tả	Khoảng giá trị	Giá trị mặc định
`outputCategoryMask`	Nếu bạn đặt thành `True`, thì kết quả sẽ bao gồm một mặt nạ phân đoạn dưới dạng hình ảnh uint8, trong đó mỗi giá trị pixel cho biết liệu pixel có thuộc đối tượng nằm ở khu vực quan tâm hay không.	{`True, False`}	`False`
`outputConfidenceMasks`	Nếu được đặt thành `True`, kết quả sẽ bao gồm một mặt nạ phân đoạn dưới dạng hình ảnh giá trị số thực, trong đó mỗi giá trị số thực biểu thị niềm tin rằng pixel là một phần của đối tượng nằm ở khu vực quan tâm.	{`True, False`}	`True`
`displayNamesLocale`	Đặt ngôn ngữ của nhãn để sử dụng cho tên hiển thị được cung cấp trong siêu dữ liệu của mô hình của tác vụ, nếu có. Giá trị mặc định là `en` đối với tiếng Anh. Bạn có thể thêm nhãn đã bản địa hoá vào siêu dữ liệu của mô hình tuỳ chỉnh bằng cách sử dụng API Trình viết siêu dữ liệu TensorFlow Lite	Mã ngôn ngữ	vi
`errorListener`	Thiết lập một trình nghe lỗi (không bắt buộc).	Không áp dụng	Không đặt

Chuẩn bị dữ liệu

Công cụ Phân đoạn hình ảnh tương tác hoạt động với hình ảnh và tác vụ này sẽ xử lý tiền xử lý dữ liệu đầu vào, bao gồm cả việc đổi kích thước, xoay và chuẩn hoá giá trị. Bạn cần chuyển đổi hình ảnh đầu vào thành đối tượng com.google.mediapipe.framework.image.MPImage trước khi truyền đối tượng đó vào tác vụ.

import com.google.mediapipe.framework.image.BitmapImageBuilder;
import com.google.mediapipe.framework.image.MPImage;

// Load an image on the user’s device as a Bitmap object using BitmapFactory.

// Convert an Android’s Bitmap object to a MediaPipe’s Image object.
Image mpImage = new BitmapImageBuilder(bitmap).build();

Trong mã ví dụ về Công cụ phân đoạn hình ảnh tương tác, việc chuẩn bị dữ liệu được xử lý trong lớp InteractiveSegmenterHelper bằng hàm segment().

Chạy tác vụ

Gọi hàm segment để chạy dự đoán và tạo phân đoạn. Tác vụ của Công cụ phân đoạn hình ảnh tương tác sẽ trả về các khu vực phân đoạn đã xác định trong hình ảnh đầu vào.

RegionOfInterest roi = RegionOfInterest.create(
    NormalizedKeypoint.create(
        normX * it.width,
        normY * it.height
    )
);

ImageSegmenterResult segmenterResult = interactivesegmenter.segment(image, roi);

Trong mã ví dụ về Công cụ phân đoạn hình ảnh tương tác, các hàm segment được xác định trong tệp InteractiveSegmenterHelper.kt.

Xử lý và hiển thị kết quả

Sau khi chạy dự đoán, tác vụ Phân đoạn hình ảnh tương tác sẽ trả về một đối tượng ImageSegmenterResult chứa kết quả của tác vụ phân đoạn. Nội dung của dữ liệu đầu ra có thể bao gồm mặt nạ danh mục, mặt nạ tin cậy hoặc cả hai, tuỳ thuộc vào nội dung bạn đặt khi định cấu hình tác vụ.

Các phần sau đây giải thích thêm về dữ liệu đầu ra của nhiệm vụ này:

Mặt nạ danh mục

Các hình ảnh sau đây minh hoạ kết quả đầu ra của tác vụ cho một mặt nạ giá trị danh mục với khu vực điểm quan tâm được biểu thị. Mỗi pixel là một giá trị uint8 cho biết liệu pixel có thuộc đối tượng nằm ở khu vực quan tâm hay không. Vòng tròn đen trắng trên hình ảnh thứ hai cho biết khu vực quan tâm đã chọn.

Đầu ra của mặt nạ danh mục và hình ảnh gốc. Hình ảnh nguồn từ tập dữ liệu Pascal VOC 2012.

Mặt nạ tin cậy

Đầu ra của mặt nạ tin cậy chứa các giá trị số thực giữa [0, 1] đối với từng kênh đầu vào hình ảnh. Giá trị cao hơn cho thấy độ tin cậy cao hơn rằng pixel hình ảnh là một phần của đối tượng nằm ở khu vực quan tâm.