Nhiệm vụ Trình phân đoạn hình ảnh cho phép bạn chia hình ảnh thành các vùng dựa trên hình ảnh được xác định trước và áp dụng hiệu ứng hình ảnh như làm mờ nền. Các sẽ hướng dẫn bạn cách sử dụng Trình phân đoạn hình ảnh bằng ứng dụng iOS.
Mã mẫu được mô tả trong các hướng dẫn này có trên GitHub.
Bạn có thể xem công việc này trong thực tế bằng cách xem trang Web bản minh hoạ. Để biết thêm thông tin về tính năng, kiểu máy và các lựa chọn cấu hình của công việc này, hãy xem Tổng quan.
Ví dụ về mã
Ví dụ về mã MediaPipe Tasks chứa cách triển khai đơn giản của một Ứng dụng Công cụ phân đoạn hình ảnh dành cho iOS.
Ví dụ này triển khai một trình phân đoạn hình ảnh để tạo ra mặt nạ danh mục. Chiến dịch này sử dụng camera trên một thiết bị iOS thực để phân đoạn hình ảnh trực tiếp nguồn cấp dữ liệu máy ảnh hoặc hình ảnh và video từ thư viện trên thiết bị.
Bạn có thể sử dụng ứng dụng này làm điểm khởi đầu cho ứng dụng iOS của riêng mình hoặc tham chiếu đến ứng dụng đó khi sửa đổi ứng dụng hiện có. Mã ví dụ về Trình phân đoạn hình ảnh được lưu trữ trên GitHub.
Tải mã xuống
Các hướng dẫn sau đây chỉ cho bạn cách tạo bản sao trên máy của ví dụ bằng công cụ dòng lệnh git.
Cách tải mã ví dụ xuống:
Sao chép kho lưu trữ git bằng lệnh sau:
git clone https://github.com/google-ai-edge/mediapipe-samples/
Bạn có thể định cấu hình thực thể git để sử dụng quy trình thanh toán thưa thớt, vì vậy, bạn có chỉ các tệp cho ứng dụng ví dụ về Trình phân đoạn hình ảnh:
cd mediapipe git sparse-checkout init --cone git sparse-checkout set examples/image_segmentation/ios/
Sau khi tạo phiên bản cục bộ của mã ví dụ, bạn có thể cài đặt Thư viện nhiệm vụ MediaPipe, hãy mở dự án bằng Xcode rồi chạy ứng dụng. Để hãy xem Hướng dẫn thiết lập cho iOS.
Thành phần chính
Các tệp sau đây chứa mã quan trọng cho ví dụ về Trình phân đoạn hình ảnh ứng dụng:
- ImageSegmenterService.swift: Khởi chạy Trình phân đoạn hình ảnh, xử lý lựa chọn mô hình và chạy suy luận về dữ liệu đầu vào.
- CameraViewController.swift: Triển khai giao diện người dùng cho chế độ nhập nguồn cấp dữ liệu camera trực tiếp và trực quan hoá kết quả.
- MediaLibraryViewController.swift Triển khai giao diện người dùng cho chế độ nhập tệp video và hình ảnh tĩnh và trực quan hoá kết quả.
Thiết lập
Phần này mô tả các bước chính để thiết lập môi trường phát triển và mã dự án để sử dụng Trình phân đoạn hình ảnh. Để biết thông tin chung về cách thiết lập môi trường phát triển để sử dụng các tác vụ MediaPipe, bao gồm cả phiên bản nền tảng hãy xem Hướng dẫn thiết lập cho iOS.
Phần phụ thuộc
Trình phân đoạn hình ảnh sử dụng thư viện MediaPipeTasksVision
(bạn phải cài đặt thư viện này)
bằng cách sử dụng CocoaPods. Thư viện này tương thích với cả ứng dụng Swift và GOAL-C
và không yêu cầu thiết lập theo ngôn ngữ cụ thể nào khác.
Để biết hướng dẫn cài đặt CocoaPods trên macOS, hãy tham khảo CocoaPods
hướng dẫn cài đặt.
Để xem hướng dẫn về cách tạo Podfile
với các nhóm cần thiết cho
ứng dụng, hãy tham khảo Việc sử dụng
CocoaPods.
Thêm nhóm MediaPipeTasksVision vào Podfile
bằng mã sau:
target 'MyImageSegmenterApp' do
use_frameworks!
pod 'MediaPipeTasksVision'
end
Nếu ứng dụng của bạn có mục tiêu kiểm thử đơn vị, hãy tham khảo Hướng dẫn thiết lập dành cho
iOS để biết thêm thông tin về cách thiết lập
Podfile
của bạn.
Mẫu
Nhiệm vụ Trình phân đoạn hình ảnh MediaPipe cần có một mô hình đã qua đào tạo và tương thích với nhiệm vụ này. Để biết thêm thông tin về các mô hình được huấn luyện hiện có cho Trình phân đoạn hình ảnh, xem tổng quan về tác vụ Mô hình .
Chọn và tải mô hình xuống, sau đó thêm mô hình đó vào thư mục dự án bằng Xcode. Để biết hướng dẫn về cách thêm tệp vào dự án Xcode của bạn, hãy tham khảo bài viết Quản lý tệp và thư mục trong Xcode của bạn dự án.
Sử dụng thuộc tính BaseOptions.modelAssetPath
để chỉ định đường dẫn đến mô hình
trong gói ứng dụng của bạn. Để xem ví dụ về mã, hãy xem phần tiếp theo.
Tạo việc cần làm
Bạn có thể tạo tác vụ Trình phân đoạn hình ảnh bằng cách gọi một trong các trình khởi chạy tương ứng. Chiến lược phát hành đĩa đơn
Trình khởi chạy ImageSegmenter(options:)
chấp nhận các giá trị cho cấu hình
.
Nếu bạn không cần khởi chạy Trình phân đoạn hình ảnh bằng cấu hình tuỳ chỉnh
, bạn có thể sử dụng trình khởi tạo ImageSegmenter(modelPath:)
để tạo một
Trình phân đoạn hình ảnh với các lựa chọn mặc định. Để biết thêm thông tin về cấu hình
hãy xem phần Configuration Overview (Tổng quan về cấu hình).
Nhiệm vụ của Trình phân đoạn hình ảnh hỗ trợ 3 loại dữ liệu đầu vào: ảnh tĩnh, tệp video
và luồng video trực tiếp. Theo mặc định, ImageSegmenter(modelPath:)
sẽ khởi chạy một
đối với ảnh tĩnh. Nếu bạn muốn khởi động tác vụ để xử lý video
tệp hoặc luồng video trực tiếp, sử dụng ImageSegmenter(options:)
để chỉ định video
hoặc phát trực tiếp ở chế độ chạy. Chế độ phát trực tiếp cũng yêu cầu
Tuỳ chọn cấu hình imageSegmenterLiveStreamDelegate
, cho phép
Công cụ phân đoạn hình ảnh cung cấp kết quả phân đoạn hình ảnh cho người được uỷ quyền
một cách không đồng bộ.
Chọn thẻ tương ứng với chế độ chạy của bạn để xem cách tạo tác vụ và chạy suy luận.
Swift
Bài đăng có hình ảnh
import MediaPipeTasksVision let modelPath = Bundle.main.path(forResource: "model", ofType: "tflite") let options = ImageSegmenterOptions() options.baseOptions.modelAssetPath = modelPath options.runningMode = .image options.shouldOutputCategoryMask = true options.shouldOutputConfidenceMasks = false let imageSegmenter = try ImageSegmenter(options: options)
Video
import MediaPipeTasksVision let modelPath = Bundle.main.path(forResource: "model", ofType: "tflite") let options = ImageSegmenterOptions() options.baseOptions.modelAssetPath = modelPath options.runningMode = .video options.shouldOutputCategoryMask = true options.shouldOutputConfidenceMasks = false let imageSegmenter = try ImageSegmenter(options: options)
Sự kiện phát trực tiếp
import MediaPipeTasksVision // Class that conforms to the `imageSegmenterLiveStreamDelegate` protocol and // implements the method that the image segmenter calls once it finishes // performing segmentation of each input frame. class ImageSegmenterResultProcessor: NSObject, ImageSegmenterLiveStreamDelegate { func imageSegmenter( _ imageSegmenter: ImageSegmenter, didFinishSegmentation result: ImageSegmenterResult?, timestampInMilliseconds: Int, error: Error?) { // Process the image segmentation result or errors here. } } let modelPath = Bundle.main.path(forResource: "model", ofType: "tflite") let options = ImageSegmenterOptions() options.baseOptions.modelAssetPath = modelPath options.runningMode = .liveStream options.shouldOutputCategoryMask = true options.shouldOutputConfidenceMasks = false // Set `imageSegmenterLiveStreamDelegate` to the object of the class that // confirms to the `ImageSegmenterLiveStreamDelegate` protocol. let processor = ImageSegmenterResultProcessor() options.imageSegmenterLiveStreamDelegate = processor let imageSegmenter = try ImageSegmenter(options: options)
Objective-C
Bài đăng có hình ảnh
@import MediaPipeTasksVision; NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model" ofType:@"tflite"]; MPPImageSegmenterOptions *options = [[MPPImageSegmenterOptions alloc] init]; options.baseOptions.modelAssetPath = modelPath; options.runningMode = MPPRunningModeImage; options.shouldOutputCategoryMask = YES; options.shouldOutputConfidenceMasks = NO; MPPImageSegmenter *imageSegmenter = [[MPPImageSegmenter alloc] initWithOptions:options error:nil];
Video
@import MediaPipeTasksVision; NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model" ofType:@"tflite"]; MPPImageSegmenterOptions *options = [[MPPImageSegmenterOptions alloc] init]; options.baseOptions.modelAssetPath = modelPath; options.runningMode = MPPRunningModeVideo; options.shouldOutputCategoryMask = YES; options.shouldOutputConfidenceMasks = NO; MPPImageSegmenter *imageSegmenter = [[MPPImageSegmenter alloc] initWithOptions:options error:nil];
Sự kiện phát trực tiếp
@import MediaPipeTasksVision; // Class that conforms to the `MPPImageSegmenterLiveStreamDelegate` protocol // and implements the method that the image segmenter calls once it finishes // performing segmentation of each input frame. @interface APPImageSegmenterResultProcessor : NSObject@end @implementation APPImageSegmenterResultProcessor - (void)imageSegmenter:(MPPImageSegmenter *)imageSegmenter didFinishSegmentationWithResult:(MPPImageSegmenterResult *)imageSegmenterResult timestampInMilliseconds:(NSInteger)timestampInMilliseconds error:(NSError *)error { // Process the image segmentation result or errors here. } @end NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model" ofType:@"tflite"]; MPPImageSegmenterOptions *options = [[MPPImageSegmenterOptions alloc] init]; options.baseOptions.modelAssetPath = modelPath; options.runningMode = MPPRunningModeLiveStream; options.shouldOutputCategoryMask = YES; options.shouldOutputConfidenceMasks = NO; // Set `imageSegmenterLiveStreamDelegate` to the object of the class that // confirms to the `MPPImageSegmenterLiveStreamDelegate` protocol. APPImageSegmenterResultProcessor *processor = [APPImageSegmenterResultProcessor new]; options.imageSegmenterLiveStreamDelegate = processor; MPPImageSegmenter *imageSegmenter = [[MPPImageSegmenter alloc] initWithOptions:options error:nil];
Khi triển khai mã ví dụ về Trình phân đoạn hình ảnh, người dùng có thể chuyển đổi giữa chế độ xử lý. Phương pháp này làm cho mã tạo tác vụ trở nên phức tạp hơn và có thể không phù hợp với trường hợp sử dụng của bạn.
Các lựa chọn về cấu hình
Nhiệm vụ này có các lựa chọn cấu hình sau đây cho ứng dụng iOS:
Tên lựa chọn | Mô tả | Khoảng giá trị | Giá trị mặc định |
---|---|---|---|
runningMode |
Thiết lập chế độ chạy cho tác vụ. Có ba
chế độ: HÌNH ẢNH: Chế độ cho đầu vào một hình ảnh. VIDEO: Chế độ cho các khung đã giải mã của video. LIVE_STREAM: Chế độ phát trực tiếp đầu vào chẳng hạn như từ máy ảnh. Ở chế độ này, ImageSegmenterLiveStreamDelegate
phải được đặt thành một thực thể của lớp triển khai
ImageSegmenterLiveStreamDelegate để nhận phân đoạn
kết quả một cách không đồng bộ.
|
{RunningMode.image, RunningMode.video, RunningMode.liveStream } |
RunningMode.image |
shouldOutputCategoryMask |
Nếu bạn đặt thành True , kết quả sẽ bao gồm một mặt nạ phân đoạn
dưới dạng hình ảnh uint8, trong đó mỗi giá trị pixel cho biết danh mục chiến thắng
giá trị. |
{True, False } |
False |
shouldOutputConfidenceMasks |
Nếu bạn đặt thành True , kết quả sẽ bao gồm một mặt nạ phân đoạn
dưới dạng hình ảnh giá trị số thực, trong đó mỗi giá trị số thực biểu thị độ tin cậy
bản đồ điểm số của danh mục. |
{True, False } |
True |
displayNamesLocale |
Đặt ngôn ngữ của nhãn để sử dụng cho tên hiển thị được cung cấp trong
siêu dữ liệu về mô hình của công việc (nếu có). Mặc định là en cho
Tiếng Anh. Bạn có thể thêm nhãn đã bản địa hoá vào siêu dữ liệu của mô hình tuỳ chỉnh
bằng TensorFlow Lite Metadata Writer API |
Mã ngôn ngữ | vi |
result_callback |
Thiết lập trình nghe kết quả để nhận kết quả phân đoạn
không đồng bộ khi trình phân đoạn hình ảnh đang ở chế độ LIVE_STREAM .
Chỉ sử dụng được khi bạn đặt chế độ chạy thành LIVE_STREAM |
Không áp dụng | Không áp dụng |
Khi bạn đặt chế độ chạy thành LIVE_STREAM
, Trình phân đoạn hình ảnh sẽ yêu cầu
tuỳ chọn cấu hình imageSegmenterLiveStreamDelegate
bổ sung
cho phép Trình phân đoạn hình ảnh cung cấp kết quả phân đoạn hình ảnh theo cách không đồng bộ.
Ủy quyền phải triển khai
Phương thức imageSegmenter(_:didFinishSegmentation:timestampInMilliseconds:error:)
,
mà Trình phân đoạn hình ảnh gọi sau khi xử lý kết quả thực hiện
phân đoạn trên mỗi khung hình.
Tên tùy chọn | Mô tả | Khoảng giá trị | Giá trị mặc định |
---|---|---|---|
imageSegmenterLiveStreamDelegate |
Bật Trình phân đoạn hình ảnh để nhận kết quả hình ảnh hoạt động
phân đoạn không đồng bộ ở chế độ phát trực tiếp. Lớp có thực thể là
được đặt thành thuộc tính này phải triển khai
imageSegmenter(_:didFinishSegmentation:timestampInMilliseconds:error:)
. |
Không áp dụng | Chưa đặt |
Chuẩn bị dữ liệu
Bạn cần chuyển đổi hình ảnh hoặc khung đầu vào thành đối tượng MPImage
trước
chuyển hình ảnh đó đến Trình phân đoạn hình ảnh. MPImage
hỗ trợ nhiều loại hình ảnh iOS
và có thể sử dụng chúng ở bất kỳ chế độ chạy nào để suy luận. Để biết thêm
thông tin về MPImage
, hãy tham khảo
API MPImage
Chọn định dạng hình ảnh iOS dựa trên trường hợp sử dụng của bạn và chế độ chạy của bạn
yêu cầu.MPImage
chấp nhận UIImage
, CVPixelBuffer
và
CMSampleBuffer
Định dạng hình ảnh cho iOS.
UIImage
Định dạng UIImage
rất phù hợp với các chế độ chạy sau đây:
Hình ảnh: hình ảnh từ gói ứng dụng, thư viện người dùng hoặc hệ thống tệp được định dạng là
UIImage
hình ảnh có thể được chuyển đổi thành đối tượngMPImage
.Video: sử dụng AVAssetImageGenerator để trích xuất khung hình video vào CGImage rồi chuyển đổi chúng thành
UIImage
hình ảnh.
Swift
// Load an image on the user's device as an iOS `UIImage` object. // Convert the `UIImage` object to a MediaPipe's Image object having the default // orientation `UIImage.Orientation.up`. let image = try MPImage(uiImage: image)
Objective-C
// Load an image on the user's device as an iOS `UIImage` object. // Convert the `UIImage` object to a MediaPipe's Image object having the default // orientation `UIImageOrientationUp`. MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
Ví dụ này khởi chạy MPImage
với giá trị mặc định
UIImage.Orientation.Up
hướng. Bạn có thể khởi chạy MPImage
bằng bất kỳ
UIImage.Orientation
giá trị. Trình phân đoạn hình ảnh không hỗ trợ hướng được phản chiếu như .upMirrored
,
.downMirrored
, .leftMirrored
, .rightMirrored
.
Để biết thêm thông tin về UIImage
, hãy tham khảo UIImage Apple Developer (Nhà phát triển UIImage)
Tài liệu.
CVPixelBuffer
Định dạng CVPixelBuffer
rất phù hợp với các ứng dụng tạo khung
và sử dụng CoreImage của iOS
khung để xử lý.
Định dạng CVPixelBuffer
rất phù hợp với các chế độ chạy sau đây:
Hình ảnh: ứng dụng tạo ra
CVPixelBuffer
hình ảnh sau một số quá trình xử lý sử dụng khungCoreImage
của iOS có thể được gửi đến Trình phân đoạn hình ảnh trong chế độ chạy hình ảnh.Video: khung video có thể được chuyển đổi sang định dạng
CVPixelBuffer
cho rồi gửi đến Trình phân đoạn hình ảnh ở chế độ video.phát trực tiếp: ứng dụng dùng máy ảnh iOS để tạo khung hình có thể được chuyển đổi sang định dạng
CVPixelBuffer
để xử lý trước khi gửi đến Công cụ phân đoạn hình ảnh ở chế độ phát trực tiếp.
Swift
// Obtain a CVPixelBuffer. // Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the default // orientation `UIImage.Orientation.up`. let image = try MPImage(pixelBuffer: pixelBuffer)
Objective-C
// Obtain a CVPixelBuffer. // Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the // default orientation `UIImageOrientationUp`. MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
Để biết thêm thông tin về CVPixelBuffer
, hãy tham khảo CVPixelBuffer Apple
Nhà phát triển
Tài liệu.
CMSampleBuffer
Định dạng CMSampleBuffer
lưu trữ các mẫu phương tiện của một loại phương tiện đồng nhất và
rất phù hợp với chế độ chạy phát trực tiếp. Khung hình trực tiếp từ máy ảnh iOS
phân phối không đồng bộ ở định dạng CMSampleBuffer
bởi iOS
AVCaptureVideoDataOutput.
Swift
// Obtain a CMSampleBuffer. // Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the default // orientation `UIImage.Orientation.up`. let image = try MPImage(sampleBuffer: sampleBuffer)
Objective-C
// Obtain a `CMSampleBuffer`. // Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the // default orientation `UIImageOrientationUp`. MPImage *image = [[MPPImage alloc] initWithSampleBuffer:sampleBuffer error:nil];
Để biết thêm thông tin về CMSampleBuffer
, hãy tham khảo CMSampleBuffer Apple
Nhà phát triển
Tài liệu.
Chạy tác vụ
Để chạy Trình phân đoạn hình ảnh, hãy sử dụng phương thức segment()
dành riêng cho
chế độ chạy:
- Hình ảnh tĩnh:
segment(image:)
- Video:
segment(videoFrame:timestampInMilliseconds:)
- Phát trực tiếp:
segmentAsync(image:timestampInMilliseconds:)
Các mã mẫu sau đây trình bày các ví dụ đơn giản về cách chạy Trình phân đoạn hình ảnh trong các chế độ chạy khác nhau này:
Swift
Bài đăng có hình ảnh
let result = try imageSegmenter.segment(image: image)
Video
let result = try imageSegmenter.segment( videoFrame: image, timestampInMilliseconds: timestamp)
Sự kiện phát trực tiếp
try imageSegmenter.segmentAsync( image: image, timestampInMilliseconds: timestamp)
Objective-C
Bài đăng có hình ảnh
MPPImageSegmenterResult *result = [imageSegmenter segmentImage:image error:nil];
Video
MPPImageSegmenterResult *result = [imageSegmenter segmentVideoFrame:image timestampInMilliseconds:timestamp error:nil];
Sự kiện phát trực tiếp
BOOL success = [imageSegmenter segmentAsyncImage:image timestampInMilliseconds:timestamp error:nil];
Ví dụ về mã của Trình phân đoạn hình ảnh cho thấy cách triển khai từng chế độ trong số này
chi tiết hơn segment(image:)
,
segment(videoFrame:timestampInMilliseconds:)
và
segmentAsync(image:timestampInMilliseconds:)
.
Xin lưu ý những điều sau:
Khi chạy ở chế độ video hoặc chế độ phát trực tiếp, bạn cũng phải cung cấp dấu thời gian của khung nhập vào tác vụ của Trình phân đoạn hình ảnh.
Khi chạy ở chế độ hình ảnh hoặc video, tác vụ Trình phân đoạn hình ảnh sẽ chặn luồng hiện tại cho đến khi xử lý xong hình ảnh hoặc khung đầu vào. Người nhận tránh chặn luồng hiện tại, hãy thực thi quá trình xử lý trong nền chuỗi bằng iOS Điều phối hoặc NSOperation khung.
Khi chạy ở chế độ phát trực tiếp, tác vụ Trình phân đoạn hình ảnh sẽ trả về ngay lập tức và không chặn luồng hiện tại. Phương thức gọi
imageSegmenter(_:didFinishSegmentation:timestampInMilliseconds:error:)
bằng trình phân đoạn hình ảnh sau khi xử lý từng khung đầu vào. Chiến lược phát hành đĩa đơn Trình phân đoạn hình ảnh gọi phương thức này không đồng bộ trên một sê-ri chuyên dụng hàng đợi điều phối. Để hiển thị kết quả trên giao diện người dùng, hãy gửi kết quả vào hàng đợi chính sau khi xử lý kết quả. Nếu HàmsegmentAsync
được gọi khi tác vụ Trình phân đoạn hình ảnh đang bận đang xử lý một khung khác, Trình phân đoạn hình ảnh sẽ bỏ qua khung nhập mới.
Xử lý và hiện kết quả
Sau khi chạy dự đoán, tác vụ Trình phân đoạn hình ảnh sẽ trả về một ImageSegmenterResult
chứa kết quả của nhiệm vụ phân đoạn. Nội dung của
đầu ra phụ thuộc vào loại đầu ra mà bạn đặt khi
đã định cấu hình
việc cần làm.
Các hình ảnh sau đây minh hoạ kết quả đầu ra của tác vụ cho một danh mục
mặt nạ giá trị. Phạm vi mặt nạ danh mục là [0, 255]
và mỗi giá trị pixel
biểu thị chỉ mục danh mục chiến thắng của dữ liệu đầu ra của mô hình. Hạng mục chiến thắng
chỉ mục có điểm cao nhất trong số các danh mục mà mô hình có thể nhận ra.
Đầu ra mặt nạ danh mục và hình ảnh gốc. Hình ảnh nguồn từ Pascal VOC 2012 tập dữ liệu.
Mã ví dụ về Trình phân đoạn hình ảnh minh hoạ cách hiển thị Trình phân đoạn hình ảnh kết quả, xem mã ví dụ để biết thông tin chi tiết.