Hướng dẫn phát hiện đối tượng cho iOS

Nhiệm vụ của Trình phát hiện đối tượng cho phép bạn phát hiện sự hiện diện và vị trí của nhiều lớp đối tượng. Ví dụ: Trình phát hiện đối tượng có thể xác định vị trí của chó trong một hình ảnh. Các hướng dẫn này chỉ cho bạn cách sử dụng nhiệm vụ Trình phát hiện đối tượng trong iOS. Mã mẫu được mô tả trong những hướng dẫn này hiện có trên GitHub.

Bạn có thể xem cách hoạt động của công việc này bằng cách xem Bản minh hoạ web này. Để biết thêm thông tin về các tính năng, mô hình và lựa chọn cấu hình của nhiệm vụ này, hãy xem phần Tổng quan.

Ví dụ về mã

Mã ví dụ về MediaPipe Tasks là cách triển khai cơ bản của ứng dụng Trình phát hiện đối tượng dành cho iOS. Ví dụ này sử dụng máy ảnh trên một thiết bị iOS thực để liên tục phát hiện các đối tượng, đồng thời có thể sử dụng hình ảnh và video trong thư viện thiết bị để phát hiện tĩnh các đối tượng.

Bạn có thể dùng ứng dụng làm điểm xuất phát cho ứng dụng iOS của riêng mình hoặc tham chiếu đến ứng dụng này khi sửa đổi một ứng dụng hiện có. Mã ví dụ về Trình phát hiện đối tượng được lưu trữ trên GitHub.

Tải mã xuống

Hướng dẫn sau đây chỉ cho bạn cách tạo bản sao cục bộ của mã ví dụ bằng công cụ dòng lệnh git.

Cách tải mã ví dụ xuống:

1. Sao chép kho lưu trữ git bằng lệnh sau:

   git clone https://github.com/google-ai-edge/mediapipe-samples
   

2. Bạn có thể tuỳ ý định cấu hình thực thể git để sử dụng quy trình thanh toán thưa thớt, vì vậy, bạn chỉ có các tệp cho ứng dụng ví dụ về Trình phát hiện đối tượng:

   cd mediapipe
   git sparse-checkout init --cone
   git sparse-checkout set examples/object_detection/ios/
   

Sau khi tạo phiên bản cục bộ của mã ví dụ, bạn có thể cài đặt thư viện tác vụ MediaPipe, mở dự án bằng Xcode và chạy ứng dụng. Để biết hướng dẫn, hãy xem Hướng dẫn thiết lập dành cho iOS.

Thành phần chính

Các tệp sau đây chứa mã quan trọng cho ứng dụng mẫu Trình phát hiện đối tượng:

• ObjectDetectorService.swift: Khởi chạy trình phát hiện, xử lý việc lựa chọn mô hình và chạy suy luận về dữ liệu đầu vào.
• CameraViewController.swift: Triển khai giao diện người dùng cho chế độ nhập nguồn cấp dữ liệu camera trực tiếp và trực quan hoá các kết quả phát hiện.
• MediaLibraryViewController.swift: Triển khai giao diện người dùng cho chế độ nhập tệp video và hình ảnh tĩnh, đồng thời trực quan hoá kết quả phát hiện.

Thiết lập

Phần này mô tả các bước chính để thiết lập môi trường phát triển và dự án mã để sử dụng Trình phát hiện đối tượng. Để biết thông tin chung về cách thiết lập môi trường phát triển nhằm sử dụng các tác vụ MediaPipe, bao gồm cả các yêu cầu về phiên bản nền tảng, hãy xem Hướng dẫn thiết lập dành cho iOS.

Phần phụ thuộc

Trình phát hiện đối tượng sử dụng thư viện MediaPipeTasksVision. Bạn phải cài đặt thư viện này bằng CocoaPods. Thư viện này tương thích với cả ứng dụng Swift và Objective-C, đồng thời không yêu cầu thiết lập thêm tuỳ theo ngôn ngữ.

Để biết hướng dẫn cài đặt CocoaPods trên macOS, hãy tham khảo Hướng dẫn cài đặt CocoaPods. Để biết hướng dẫn về cách tạo Podfile với các nhóm cần thiết cho ứng dụng của bạn, hãy tham khảo bài viết Sử dụng CocoaPods.

Thêm nhóm MediaPipeTaskVision trong Podfile bằng mã sau:

target 'MyObjectDetectorApp' do
  use_frameworks!
  pod 'MediaPipeTasksVision'
end

Nếu ứng dụng của bạn có các mục tiêu kiểm thử đơn vị, hãy tham khảo Hướng dẫn thiết lập dành cho iOS để biết thêm thông tin về cách thiết lập Podfile.

Mẫu

Tác vụ Trình phát hiện đối tượng MediaPipe cần có một mô hình đã huấn luyện tương thích với tác vụ này. Để biết thêm thông tin về các mô hình đã huấn luyện hiện có cho Trình phát hiện đối tượng, hãy xem phần Mô hình tổng quan về tác vụ.

Chọn và tải một mô hình xuống, sau đó thêm mô hình đó vào thư mục dự án của bạn bằng Xcode. Để biết hướng dẫn về cách thêm tệp vào dự án Xcode, hãy tham khảo bài viết Quản lý tệp và thư mục trong dự án Xcode.

Sử dụng thuộc tính BaseOptions.modelAssetPath để chỉ định đường dẫn đến mô hình trong gói ứng dụng của bạn. Để biết ví dụ về mã, hãy xem phần tiếp theo.

Tạo việc cần làm

Bạn có thể tạo tác vụ Trình phát hiện đối tượng bằng cách gọi một trong các trình khởi chạy của nhiệm vụ đó. Trình khởi chạy ObjectDetector(options:) đặt giá trị cho các tuỳ chọn cấu hình, bao gồm chế độ chạy, ngôn ngữ tên hiển thị, số lượng kết quả tối đa, ngưỡng tin cậy, danh sách cho phép và danh sách từ chối.

Nếu không cần khởi chạy Trình phát hiện đối tượng bằng các tuỳ chọn cấu hình tuỳ chỉnh, bạn có thể sử dụng trình khởi chạy ObjectDetector(modelPath:) để tạo Trình phát hiện đối tượng với các tuỳ chọn mặc định. Để biết thêm thông tin về các lựa chọn cấu hình, hãy xem phần Tổng quan về cấu hình.

Tác vụ Trình phát hiện đối tượng hỗ trợ 3 loại dữ liệu đầu vào: hình ảnh tĩnh, tệp video và luồng video trực tiếp. Theo mặc định, ObjectDetector(modelPath:) sẽ khởi chạy một tác vụ cho hình ảnh tĩnh. Nếu bạn muốn khởi động tác vụ của mình để xử lý tệp video hoặc luồng video trực tiếp, hãy sử dụng ObjectDetector(options:) để chỉ định video hoặc chế độ chạy sự kiện phát trực tiếp. Chế độ phát trực tiếp cũng yêu cầu tuỳ chọn cấu hình objectDetectorLiveStreamDelegate bổ sung, cho phép Trình phát hiện đối tượng cung cấp kết quả phát hiện cho thực thể đại diện một cách không đồng bộ.

Chọn thẻ tương ứng với chế độ đang chạy để xem cách tạo tác vụ và chạy dự đoán.

Swift

import MediaPipeTasksVision

let modelPath = Bundle.main.path(forResource: "model",
                                      ofType: "tflite")

let options = ObjectDetectorOptions()
options.baseOptions.modelAssetPath = modelPath
options.runningMode = .image
options.maxResults = 5

let objectDetector = try ObjectDetector(options: options)
    

import MediaPipeTasksVision

let modelPath = Bundle.main.path(forResource: "model",
                                      ofType: "tflite")

let options = ObjectDetectorOptions()
options.baseOptions.modelAssetPath = modelPath
options.runningMode = .video
options.maxResults = 5

let objectDetector = try ObjectDetector(options: options)
    

import MediaPipeTasksVision

// Class that conforms to the `ObjectDetectorLiveStreamDelegate` protocol and
// implements the method that the object detector calls once it
// finishes performing detection on each input frame.
class ObjectDetectorResultProcessor: NSObject, ObjectDetectorLiveStreamDelegate {

  func objectDetector(
    _ objectDetector: ObjectDetector,
    didFinishDetection objectDetectionResult: ObjectDetectorResult?,
    timestampInMilliseconds: Int,
    error: Error?) {
    // Process the detection result or errors here.
  }
}

let modelPath = Bundle.main.path(forResource: "model",
                                      ofType: "tflite")

let options = ObjectDetectorOptions()
options.baseOptions.modelAssetPath = modelPath
options.runningMode = .liveStream
options.maxResults = 5

// Assign an object of the class to the `objectDetectorLiveStreamDelegate`
// property.
let processor = ObjectDetectorResultProcessor()
options.objectDetectorLiveStreamDelegate = processor

let objectDetector = try ObjectDetector(options: options)
    

Objective-C

@import MediaPipeTasksVision;

NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model"
                                                      ofType:@"tflite"];

MPPObjectDetectorOptions *options = [[MPPObjectDetectorOptions alloc] init];
options.baseOptions.modelAssetPath = modelPath;
options.runningMode = MPPRunningModeImage;
options.maxResults = 5;

MPPObjectDetector *objectDetector =
      [[MPPObjectDetector alloc] initWithOptions:options error:nil];
    

@import MediaPipeTasksVision;

NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model"
                                                      ofType:@"tflite"];

MPPObjectDetectorOptions *options = [[MPPObjectDetectorOptions alloc] init];
options.baseOptions.modelAssetPath = modelPath;
options.runningMode = MPPRunningModeVideo;
options.maxResults = 5;

MPPObjectDetector *objectDetector =
      [[MPPObjectDetector alloc] initWithOptions:options error:nil];
    

@import MediaPipeTasksVision;

// Class that conforms to the `ObjectDetectorLiveStreamDelegate` protocol and
// implements the method that the object detector calls once it
// finishes performing detection on each input frame.

@interface APPObjectDetectorResultProcessor : NSObject 

@end

@implementation MPPObjectDetectorResultProcessor

-   (void)objectDetector:(MPPObjectDetector *)objectDetector
    didFinishDetectionWithResult:(MPPObjectDetectorResult *)ObjectDetectorResult
         timestampInMilliseconds:(NSInteger)timestampInMilliseconds
                           error:(NSError *)error {

    // Process the detection result or errors here.

}

@end

NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model"
                                                      ofType:@"tflite"];

MPPObjectDetectorOptions *options = [[MPPObjectDetectorOptions alloc] init];
options.baseOptions.modelAssetPath = modelPath;
options.runningMode = MPPRunningModeLiveStream;
options.maxResults = 5;

// Assign an object of the class to the `objectDetectorLiveStreamDelegate`
// property.
APPObjectDetectorResultProcessor *processor = [APPObjectDetectorResultProcessor new];
options.objectDetectorLiveStreamDelegate = processor;

MPPObjectDetector *objectDetector =
      [[MPPObjectDetector alloc] initWithOptions:options error:nil];
    

Các lựa chọn về cấu hình

Tác vụ này có các lựa chọn cấu hình sau đây đối với ứng dụng iOS:

Cấu hình sự kiện phát trực tiếp

Khi bạn đặt chế độ chạy thành phát trực tiếp, Trình phát hiện đối tượng sẽ yêu cầu tuỳ chọn cấu hình objectDetectorLiveStreamDelegate bổ sung, cho phép trình phát hiện cung cấp kết quả phát hiện theo cách không đồng bộ. Phương thức uỷ quyền sẽ triển khai phương thức objectDetector(_objectDetector:didFinishDetection:timestampInMilliseconds:error:) mà Trình phát hiện đối tượng sẽ gọi sau khi xử lý kết quả phát hiện cho từng khung.

Chuẩn bị dữ liệu

Bạn cần chuyển đổi hình ảnh hoặc khung đầu vào thành đối tượng MPImage trước khi truyền đối tượng đó đến Trình phát hiện đối tượng. MPImage hỗ trợ nhiều loại định dạng hình ảnh iOS, và có thể sử dụng các định dạng đó ở bất kỳ chế độ chạy nào để dự đoán. Để biết thêm thông tin về MPImage, hãy tham khảo API MPImage

Chọn định dạng hình ảnh iOS tuỳ vào trường hợp sử dụng và chế độ chạy mà ứng dụng của bạn yêu cầu.MPImage chấp nhận các định dạng hình ảnh iOS UIImage, CVPixelBuffer và CMSampleBuffer.

UIImage

Định dạng UIImage rất phù hợp với các chế độ chạy sau đây:

• Hình ảnh: hình ảnh từ gói ứng dụng, thư viện người dùng hoặc hệ thống tệp có định dạng là hình ảnh UIImage có thể được chuyển đổi thành đối tượng MPImage.

• Video: sử dụng AVAssetImageGenerator để trích xuất khung hình video sang định dạng CGImage, sau đó chuyển đổi các khung hình đó thành hình ảnh UIImage.

// Load an image on the user's device as an iOS `UIImage` object.

// Convert the `UIImage` object to a MediaPipe's Image object having the default
// orientation `UIImage.Orientation.up`.
let image = try MPImage(uiImage: image)
    

// Load an image on the user's device as an iOS `UIImage` object.

// Convert the `UIImage` object to a MediaPipe's Image object having the default
// orientation `UIImageOrientationUp`.
MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
    

Ví dụ này khởi chạy một MPImage theo hướng UIImage.Orientation.Up mặc định. Bạn có thể khởi chạy MPImage bằng bất kỳ giá trị UIImage.Orientation nào được hỗ trợ. Trình phát hiện đối tượng không hỗ trợ các hướng được phản chiếu như .upMirrored, .downMirrored, .leftMirrored, .rightMirrored.

Để biết thêm thông tin về UIImage, hãy tham khảo Tài liệu dành cho nhà phát triển UIImage Apple.

CVPixelBuffer

Định dạng CVPixelBuffer phù hợp với những ứng dụng tạo khung và dùng khung CoreImage của iOS để xử lý.

Định dạng CVPixelBuffer rất phù hợp với các chế độ chạy sau đây:

• Hình ảnh: ứng dụng tạo hình ảnh CVPixelBuffer sau một số quá trình xử lý bằng khung CoreImage của iOS có thể được gửi đến Trình phát hiện đối tượng ở chế độ chạy hình ảnh.

• Video: bạn có thể chuyển đổi khung video sang định dạng CVPixelBuffer để xử lý, sau đó gửi đến Trình phát hiện đối tượng ở chế độ video.

• phát trực tiếp: các ứng dụng dùng camera iOS để tạo khung hình có thể được chuyển đổi sang định dạng CVPixelBuffer để xử lý trước khi được gửi tới Trình phát hiện đối tượng ở chế độ phát trực tiếp.

// Obtain a CVPixelBuffer.

// Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the default
// orientation `UIImage.Orientation.up`.
let image = try MPImage(pixelBuffer: pixelBuffer)
    

// Obtain a CVPixelBuffer.

// Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the
// default orientation `UIImageOrientationUp`.
MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
    

Để biết thêm thông tin về CVPixelBuffer, hãy tham khảo Tài liệu dành cho nhà phát triển của Apple về CVPixelBufferBuffer.

CMSampleBuffer

Định dạng CMSampleBuffer lưu trữ các mẫu nội dung nghe nhìn của một loại nội dung nghe nhìn đồng nhất và phù hợp với chế độ chạy sự kiện phát trực tiếp. Khung hình trực tiếp từ máy ảnh iOS được AVCaptureVideoDataOutput của iOS phân phối không đồng bộ ở định dạng CMSampleBuffer.

// Obtain a CMSampleBuffer.

// Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the default
// orientation `UIImage.Orientation.up`.
let image = try MPImage(sampleBuffer: sampleBuffer)
    

// Obtain a `CMSampleBuffer`.

// Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the
// default orientation `UIImageOrientationUp`.
MPImage *image = [[MPPImage alloc] initWithSampleBuffer:sampleBuffer error:nil];
    

Để biết thêm thông tin về CMSampleBuffer, hãy tham khảo Tài liệu về CMSampleBuffer dành cho nhà phát triển của Apple.

Chạy tác vụ

Để chạy Trình phát hiện đối tượng, hãy sử dụng phương thức detect() dành riêng cho chế độ chạy được chỉ định:

• Hình ảnh tĩnh: detect(image:)
• Video: detect(videoFrame:timestampInMilliseconds:)
• sự kiện phát trực tiếp: detectAsync(image:)

Các mã mẫu sau đây là các ví dụ cơ bản về cách chạy Trình phát hiện đối tượng ở các chế độ chạy khác nhau:

Swift

let objectDetector.detect(image:image)
    

let objectDetector.detect(videoFrame:image)
    

let objectDetector.detectAsync(image:image)
    

Objective-C

MPPObjectDetectorResult *result = [objectDetector detectInImage:image error:nil];
    

MPPObjectDetectorResult *result = [objectDetector detectInVideoFrame:image          timestampInMilliseconds:timestamp error:nil];
    

BOOL success = [objectDetector detectAsyncInImage:image
                          timestampInMilliseconds:timestamp
                                            error:nil];
    

Ví dụ về mã của Trình phát hiện đối tượng cho thấy cách triển khai từng chế độ trong số này chi tiết hơn detect(image:), detect(videoFrame:) và detectAsync(image:). Mã ví dụ cho phép người dùng chuyển đổi giữa các chế độ xử lý có thể không bắt buộc đối với trường hợp sử dụng của bạn.

Xin lưu ý những điều sau:

• Khi chạy ở chế độ video hoặc chế độ phát trực tiếp, bạn cũng phải cung cấp dấu thời gian của khung đầu vào cho tác vụ Trình phát hiện đối tượng.

• Khi chạy ở chế độ hình ảnh hoặc video, tác vụ Trình phát hiện đối tượng sẽ chặn luồng hiện tại cho đến khi xử lý xong hình ảnh hoặc khung đầu vào. Để tránh chặn luồng hiện tại, hãy thực thi quá trình xử lý trong luồng ở chế độ nền bằng khung Dispatch của iOS hoặc NSOperation.

• Khi chạy ở chế độ phát trực tiếp, tác vụ Trình phát hiện đối tượng sẽ trả về ngay lập tức và không chặn luồng hiện tại. Hàm này sẽ gọi phương thức objectDetector(_objectDetector:didFinishDetection:timestampInMilliseconds:error:) cùng với kết quả phát hiện sau khi xử lý từng khung đầu vào. Trình phát hiện đối tượng gọi phương thức này không đồng bộ trên hàng đợi điều phối nối tiếp riêng biệt. Để hiển thị kết quả trên giao diện người dùng, hãy gửi kết quả đến hàng đợi chính sau khi xử lý kết quả. Nếu hàm detectAsync được gọi khi tác vụ của Trình phát hiện đối tượng đang bận xử lý một khung khác, thì Trình phát hiện đối tượng sẽ bỏ qua khung đầu vào mới.

Xử lý và hiển thị kết quả

Khi chạy suy luận, tác vụ của Trình phát hiện đối tượng sẽ trả về một đối tượng ObjectDetectorResult mô tả các đối tượng đã tìm thấy trong hình ảnh đầu vào.

Sau đây là ví dụ về dữ liệu đầu ra của nhiệm vụ này:

ObjectDetectorResult:
 Detection #0:
  Box: (x: 355, y: 133, w: 190, h: 206)
  Categories:
   index       : 17
   score       : 0.73828
   class name  : dog
 Detection #1:
  Box: (x: 103, y: 15, w: 138, h: 369)
  Categories:
   index       : 17
   score       : 0.73047
   class name  : dog

Hình ảnh sau đây minh hoạ kết quả của tác vụ:

Mã ví dụ về Trình phát hiện đối tượng minh hoạ cách hiển thị kết quả phát hiện được trả về từ tác vụ. Hãy xem mã ví dụ để biết thông tin chi tiết.