Hướng dẫn phát hiện khuôn mặt dành cho iOS

Nhiệm vụ của Trình phát hiện khuôn mặt cho phép bạn phát hiện các khuôn mặt trong một hình ảnh hoặc video. Bạn có thể sử dụng nhiệm vụ này nhằm xác định vị trí khuôn mặt và các đặc điểm trên khuôn mặt trong một khung hình. Nhiệm vụ này sử dụng một mô hình học máy (ML) hoạt động với các hình ảnh đơn lẻ hoặc luồng liên tục hình ảnh. Nhiệm vụ sẽ xuất ra vị trí khuôn mặt, cùng với phím khuôn mặt sau đây điểm: mắt trái, mắt phải, đầu mũi, miệng, mắt trái và mắt phải trau chuốt.

Bạn có thể xem mã mẫu được mô tả trong những hướng dẫn này trên GitHub. Bạn có thể xem công việc này trong thực tế bằng cách xem trang Web này bản minh hoạ. Để biết thêm thông tin về tính năng, kiểu máy và tuỳ chọn cấu hình của công việc, hãy xem Tổng quan.

Ví dụ về mã

Mã ví dụ về MediaPipe Tasks là cách triển khai đơn giản của Trình phát hiện khuôn mặt dành cho iOS. Ví dụ này sử dụng máy ảnh trên một thiết bị Android thực để phát hiện trong luồng video liên tục. Ứng dụng này cũng có thể phát hiện các khuôn mặt trong hình ảnh và từ thư viện trên thiết bị.

Bạn có thể sử dụng ứng dụng này làm điểm khởi đầu cho ứng dụng iOS của riêng mình hoặc tham chiếu đến ứng dụng đó khi sửa đổi ứng dụng hiện có. Mã ví dụ về Trình phát hiện khuôn mặt được lưu trữ trên GitHub.

Tải mã xuống

Các hướng dẫn sau đây chỉ cho bạn cách tạo bản sao trên máy của ví dụ bằng công cụ dòng lệnh git.

Cách tải mã ví dụ xuống:

1. Sao chép kho lưu trữ git bằng lệnh sau:

   git clone https://github.com/google-ai-edge/mediapipe-samples
   

2. Bạn có thể định cấu hình thực thể git để sử dụng quy trình thanh toán thưa thớt, vì vậy, bạn có chỉ các tệp cho ứng dụng ví dụ về Trình phát hiện khuôn mặt:

   cd mediapipe
   git sparse-checkout init --cone
   git sparse-checkout set examples/face_detector/ios/
   

Sau khi tạo phiên bản cục bộ của mã ví dụ, bạn có thể cài đặt Thư viện nhiệm vụ MediaPipe, hãy mở dự án bằng Xcode rồi chạy ứng dụng. Cho hãy xem Hướng dẫn thiết lập cho iOS.

Thành phần chính

Các tệp sau đây chứa mã quan trọng cho ví dụ về Trình phát hiện khuôn mặt ứng dụng:

• FaceDetectorService.swift: Khởi chạy trình phát hiện, xử lý lựa chọn mô hình và chạy suy luận dựa trên dữ liệu đầu vào.
• CameraViewController: Triển khai giao diện người dùng cho chế độ nhập nguồn cấp dữ liệu camera trực tiếp và trực quan hoá kết quả phát hiện.
• MediaLibraryViewController.swift: Triển khai giao diện người dùng cho chế độ nhập tệp hình ảnh tĩnh và tệp video, đồng thời trực quan hoá kết quả phát hiện.

Thiết lập

Phần này mô tả các bước chính để thiết lập môi trường phát triển và lập trình để sử dụng Trình phát hiện khuôn mặt. Để biết thông tin chung về cách thiết lập môi trường phát triển để sử dụng các tác vụ MediaPipe, bao gồm cả phiên bản nền tảng hãy xem Hướng dẫn thiết lập cho iOS.

Phần phụ thuộc

Trình phát hiện khuôn mặt sử dụng thư viện MediaPipeTasksVision và bạn phải cài đặt thư viện này bằng cách sử dụng CocoaPods. Thư viện này tương thích với cả ứng dụng Swift và GOAL-C và không yêu cầu thiết lập theo ngôn ngữ cụ thể nào khác.

Để biết hướng dẫn cài đặt CocoaPods trên macOS, hãy tham khảo CocoaPods hướng dẫn cài đặt. Để xem hướng dẫn về cách tạo Podfile với các nhóm cần thiết cho ứng dụng, hãy tham khảo Việc sử dụng CocoaPods.

Thêm nhóm MediaPipeTasksVision vào Podfile bằng mã sau:

target 'MyFaceDetectorApp' do
  use_frameworks!
  pod 'MediaPipeTasksVision'
end

Nếu ứng dụng của bạn có mục tiêu kiểm thử đơn vị, hãy tham khảo Hướng dẫn thiết lập dành cho iOS để biết thêm thông tin về cách thiết lập Podfile của bạn.

Mẫu

Tác vụ Phát hiện khuôn mặt MediaPipe cần một mô hình đã qua huấn luyện và tương thích với nhiệm vụ này. Để biết thêm thông tin về các mô hình được huấn luyện hiện có cho Trình phát hiện khuôn mặt, xem tổng quan về nhiệm vụ Kiểu máy .

Chọn và tải mô hình xuống, sau đó thêm mô hình đó vào thư mục dự án bằng Xcode. Để biết hướng dẫn về cách thêm tệp vào dự án Xcode của bạn, hãy tham khảo bài viết Quản lý tệp và thư mục trong Xcode của bạn dự án.

Sử dụng thuộc tính BaseOptions.modelAssetPath để chỉ định đường dẫn đến mô hình trong gói ứng dụng của bạn. Để xem ví dụ về mã, hãy xem phần tiếp theo.

Tạo việc cần làm

Bạn có thể tạo tác vụ Trình phát hiện khuôn mặt bằng cách gọi một trong các trình khởi chạy tương ứng. Chiến lược phát hành đĩa đơn Trình khởi chạy FaceDetector(options:) chấp nhận các giá trị cho cấu hình .

Nếu bạn không cần khởi chạy Trình phát hiện khuôn mặt bằng cấu hình tuỳ chỉnh , bạn có thể sử dụng trình khởi tạo FaceDetector(modelPath:) để tạo một Trình phát hiện khuôn mặt với các tuỳ chọn mặc định. Để biết thêm thông tin về cấu hình hãy xem phần Configuration Overview (Tổng quan về cấu hình).

Tác vụ của Trình phát hiện khuôn mặt hỗ trợ 3 loại dữ liệu đầu vào: ảnh tĩnh, tệp video và luồng video trực tiếp. Theo mặc định, FaceDetector(modelPath:) sẽ khởi chạy một đối với ảnh tĩnh. Nếu bạn muốn khởi động tác vụ để xử lý video tệp hoặc luồng video trực tiếp, sử dụng FaceDetector(options:) để chỉ định video hoặc phát trực tiếp ở chế độ chạy. Chế độ phát trực tiếp cũng yêu cầu Tuỳ chọn cấu hình faceDetectorLiveStreamDelegate, cho phép Trình phát hiện khuôn mặt cung cấp kết quả phát hiện khuôn mặt cho thực thể uỷ quyền theo cách không đồng bộ.

Chọn thẻ tương ứng với chế độ chạy của bạn để xem cách tạo tác vụ và chạy suy luận.

Swift

import MediaPipeTasksVision

let modelPath = Bundle.main.path(forResource: "model",
                                      ofType: "tflite")

let options = FaceDetectorOptions()
options.baseOptions.modelAssetPath = modelPath
options.runningMode = .image

let faceDetector = try FaceDetector(options: options)
    

import MediaPipeTasksVision

let modelPath = Bundle.main.path(forResource: "model",
                                      ofType: "tflite")

let options = FaceDetectorOptions()
options.baseOptions.modelAssetPath = modelPath
options.runningMode = .video

let faceDetector = try FaceDetector(options: options)
    

import MediaPipeTasksVision

// Class that conforms to the `FaceDetectorLiveStreamDelegate` protocol and
// implements the method that the face detector calls once it finishes
// detecting faces in each input frame.
class FaceDetectorResultProcessor: NSObject, FaceDetectorLiveStreamDelegate {

  func faceDetector(
    _ faceDetector: FaceDetector,
    didFinishDetection result: FaceDetectorResult?,
    timestampInMilliseconds: Int,
    error: Error?) {

    // Process the face detection result or errors here.

  }
}

let modelPath = Bundle.main.path(
  forResource: "model",
  ofType: "tflite")

let options = FaceDetectorOptions()
options.baseOptions.modelAssetPath = modelPath
options.runningMode = .liveStream

// Assign an object of the class to the `faceDetectorLiveStreamDelegate`
// property.
let processor = FaceDetectorResultProcessor()
options.faceDetectorLiveStreamDelegate = processor

let faceDetector = try FaceDetector(options: options)
    

Objective-C

@import MediaPipeTasksVision;

NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model"
                                                      ofType:@"tflite"];

MPPFaceDetectorOptions *options = [[MPPFaceDetectorOptions alloc] init];
options.baseOptions.modelAssetPath = modelPath;
options.runningMode = MPPRunningModeImage;

MPPFaceDetector *faceDetector =
      [[MPPFaceDetector alloc] initWithOptions:options error:nil];
    

@import MediaPipeTasksVision;

NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model"
                                                      ofType:@"tflite"];

MPPFaceDetectorOptions *options = [[MPPFaceDetectorOptions alloc] init];
options.baseOptions.modelAssetPath = modelPath;
options.runningMode = MPPRunningModeVideo;

MPPFaceDetector *faceDetector =
      [[MPPFaceDetector alloc] initWithOptions:options error:nil];
    

@import MediaPipeTasksVision;

// Class that conforms to the `MPPFaceDetectorLiveStreamDelegate` protocol
// and implements the method that the face detector calls once it finishes
// detecting faces in each input frame.

@interface APPFaceDetectorResultProcessor : NSObject 

@end

@implementation APPFaceDetectorResultProcessor

-   (void)faceDetector:(MPPFaceDetector *)faceDetector
    didFinishDetectionWithResult:(MPPFaceDetectorResult *)faceDetectorResult
         timestampInMilliseconds:(NSInteger)timestampInMilliseconds
                           error:(NSError *)error {

    // Process the face detector result or errors here.

}

@end

NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model"
                                                      ofType:@"tflite"];

MPPFaceDetectorOptions *options = [[MPPFaceDetectorOptions alloc] init];
options.baseOptions.modelAssetPath = modelPath;
options.runningMode = MPPRunningModeLiveStream;

// Assign an object of the class to the `faceDetectorLiveStreamDelegate`
// property.
APPFaceDetectorResultProcessor *processor = [APPFaceDetectorResultProcessor new];
options.faceDetectorLiveStreamDelegate = processor;

MPPFaceDetector *faceDetector =
      [[MPPFaceDetector alloc] initWithOptions:options error:nil];
    

Lưu ý: Nếu bạn sử dụng chế độ video hoặc chế độ phát trực tiếp, trình phát hiện khuôn mặt sẽ sử dụng để tránh kích hoạt mô hình phát hiện trên mọi khung hình. Điều này giúp giảm độ trễ.

Các lựa chọn về cấu hình

Nhiệm vụ này có các lựa chọn cấu hình sau đây cho ứng dụng iOS:

Cấu hình sự kiện phát trực tiếp

Khi bạn đặt chế độ chạy thành phát trực tiếp, Trình phát hiện khuôn mặt yêu cầu tuỳ chọn cấu hình faceDetectorLiveStreamDelegate bổ sung, cho phép trình phát hiện khuôn mặt nhằm cung cấp kết quả phát hiện một cách không đồng bộ. Người được uỷ quyền triển khai Phương thức faceDetector(_:didFinishDetection:timestampInMilliseconds:error:), mà Trình phát hiện khuôn mặt gọi sau khi xử lý kết quả phát hiện khuôn mặt từng khung hình.

Chuẩn bị dữ liệu

Bạn cần chuyển đổi hình ảnh hoặc khung đầu vào thành đối tượng MPImage trước truyền mã đó đến Trình phát hiện khuôn mặt. MPImage hỗ trợ nhiều loại hình ảnh iOS và có thể sử dụng chúng ở bất kỳ chế độ chạy nào để suy luận. Để biết thêm thông tin về MPImage, hãy tham khảo API MPImage

Chọn định dạng hình ảnh iOS dựa trên trường hợp sử dụng của bạn và chế độ chạy của bạn yêu cầu.MPImage chấp nhận UIImage, CVPixelBuffer và CMSampleBuffer Định dạng hình ảnh cho iOS.

UIImage

Định dạng UIImage rất phù hợp với các chế độ chạy sau đây:

• Hình ảnh: hình ảnh từ gói ứng dụng, thư viện người dùng hoặc hệ thống tệp được định dạng là UIImage hình ảnh có thể được chuyển đổi thành đối tượng MPImage.

• Video: sử dụng AVAssetImageGenerator để trích xuất khung hình video vào CGImage rồi chuyển đổi chúng thành UIImage hình ảnh.

// Load an image on the user's device as an iOS `UIImage` object.

// Convert the `UIImage` object to a MediaPipe's Image object having the default
// orientation `UIImage.Orientation.up`.
let image = try MPImage(uiImage: image)
    

// Load an image on the user's device as an iOS `UIImage` object.

// Convert the `UIImage` object to a MediaPipe's Image object having the default
// orientation `UIImageOrientationUp`.
MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
    

Ví dụ này khởi chạy MPImage với giá trị mặc định UIImage.Orientation.Up hướng. Bạn có thể khởi chạy MPImage bằng bất kỳ UIImage.Orientation giá trị. Trình phát hiện khuôn mặt không hỗ trợ hướng được phản chiếu như .upMirrored, .downMirrored, .leftMirrored, .rightMirrored.

Để biết thêm thông tin về UIImage, hãy tham khảo UIImage Apple Developer (Nhà phát triển UIImage) Tài liệu.

CVPixelBuffer

Định dạng CVPixelBuffer rất phù hợp với các ứng dụng tạo khung và sử dụng CoreImage của iOS khung để xử lý.

Định dạng CVPixelBuffer rất phù hợp với các chế độ chạy sau đây:

• Hình ảnh: ứng dụng tạo ra CVPixelBuffer hình ảnh sau một số quá trình xử lý sử dụng khung CoreImage của iOS có thể được gửi đến Trình phát hiện khuôn mặt trong chế độ chạy hình ảnh.

• Video: khung video có thể được chuyển đổi sang định dạng CVPixelBuffer cho xử lý rồi gửi tới Trình phát hiện khuôn mặt ở chế độ video.

• phát trực tiếp: ứng dụng dùng máy ảnh iOS để tạo khung hình có thể được chuyển đổi sang định dạng CVPixelBuffer để xử lý trước khi gửi đến Trình phát hiện khuôn mặt ở chế độ phát trực tiếp.

// Obtain a CVPixelBuffer.

// Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the default
// orientation `UIImage.Orientation.up`.
let image = try MPImage(pixelBuffer: pixelBuffer)
    

// Obtain a CVPixelBuffer.

// Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the
// default orientation `UIImageOrientationUp`.
MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
    

Để biết thêm thông tin về CVPixelBuffer, hãy tham khảo CVPixelBuffer Apple Nhà phát triển Tài liệu.

CMSampleBuffer

Định dạng CMSampleBuffer lưu trữ các mẫu phương tiện của một loại phương tiện đồng nhất và rất phù hợp với chế độ chạy phát trực tiếp. Khung hình trực tiếp từ máy ảnh iOS phân phối không đồng bộ ở định dạng CMSampleBuffer bởi iOS AVCaptureVideoDataOutput.

// Obtain a CMSampleBuffer.

// Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the default
// orientation `UIImage.Orientation.up`.
let image = try MPImage(sampleBuffer: sampleBuffer)
    

// Obtain a `CMSampleBuffer`.

// Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the
// default orientation `UIImageOrientationUp`.
MPImage *image = [[MPPImage alloc] initWithSampleBuffer:sampleBuffer error:nil];
    

Để biết thêm thông tin về CMSampleBuffer, hãy tham khảo CMSampleBuffer Apple Nhà phát triển Tài liệu.

Chạy tác vụ

Để chạy Trình phát hiện khuôn mặt, hãy sử dụng phương thức detect() dành riêng cho chế độ chạy:

• Hình ảnh tĩnh: detect(image:)
• Video: detect(videoFrame:timestampInMilliseconds:)
• Phát trực tiếp: detectAsync(image:timestampInMilliseconds:)

Trình phát hiện khuôn mặt trả về các khuôn mặt được phát hiện trong hình ảnh hoặc khung hình đầu vào.

Các mã mẫu sau đây là ví dụ đơn giản về cách chạy Trình phát hiện khuôn mặt trong các chế độ chạy khác nhau này:

Swift

let result = try faceDetector.detect(image: image)
    

let result = try faceDetector.detect(
  videoFrame: image,
  timestampInMilliseconds: timestamp)
    

try faceDetector.detectAsync(
  image: image,
  timestampInMilliseconds: timestamp)
    

Objective-C

MPPFaceDetectorResult *result = [faceDetector detectInImage:image
                                                      error:nil];
    

MPPFaceDetectorResult *result = [faceDetector detectInVideoFrame:image
                                         timestampInMilliseconds:timestamp
                                                           error:nil];
    

BOOL success = [faceDetector detectAsyncInImage:image
                        timestampInMilliseconds:timestamp
                                          error:nil];
    

Ví dụ về mã của Trình phát hiện khuôn mặt cho thấy cách triển khai từng chế độ trong số này chi tiết hơn detect(image:), detect(videoFrame:timestampInMilliseconds:), và detectAsync(image:timestampInMilliseconds:). Mã ví dụ này cho phép để người dùng chuyển đổi giữa các chế độ xử lý mà có thể không cần thiết cho việc sử dụng của bạn trường hợp.

Xin lưu ý những điều sau:

• Khi chạy ở chế độ video hoặc chế độ phát trực tiếp, bạn cũng phải cung cấp dấu thời gian của khung nhập vào nhiệm vụ của Trình phát hiện khuôn mặt.

• Khi chạy ở chế độ hình ảnh hoặc video, nhiệm vụ Trình phát hiện khuôn mặt sẽ chặn luồng hiện tại cho đến khi xử lý xong hình ảnh hoặc khung đầu vào. Người nhận tránh chặn luồng hiện tại, hãy thực thi quá trình xử lý trong nền chuỗi bằng iOS Điều phối hoặc NSOperation khung.

• Khi chạy ở chế độ phát trực tiếp, nhiệm vụ Trình phát hiện khuôn mặt sẽ trả về ngay lập tức và không chặn luồng hiện tại. Phương thức gọi faceDetector(_:didFinishDetection:timestampInMilliseconds:error:) phương thức cho kết quả phát hiện khuôn mặt sau khi xử lý từng khung hình đầu vào. Chiến lược phát hành đĩa đơn Trình phát hiện khuôn mặt gọi phương thức này không đồng bộ trên một sê-ri chuyên dụng hàng đợi điều phối. Để hiển thị kết quả trên giao diện người dùng, hãy gửi kết quả vào hàng đợi chính sau khi xử lý kết quả. Nếu detectAsync sẽ được gọi khi tác vụ Trình phát hiện khuôn mặt đang bận xử lý một hàm khác thì Trình phát hiện khuôn mặt sẽ bỏ qua khung nhập mới.

Xử lý và hiện kết quả

Sau khi chạy dự đoán, tác vụ Trình phát hiện khuôn mặt sẽ trả về một FaceDetectorResult đối tượng có chứa các hộp giới hạn cho các khuôn mặt được phát hiện và độ tin cậy điểm số cho mỗi khuôn mặt phát hiện được.

Sau đây là ví dụ về dữ liệu đầu ra của tác vụ này:

FaceDetectionResult:
  Detections:
    Detection #0:
      BoundingBox:
        origin_x: 126
        origin_y: 100
        width: 463
        height: 463
      Categories:
        Category #0:
          index: 0
          score: 0.9729152917861938
      NormalizedKeypoints:
        NormalizedKeypoint #0:
          x: 0.18298381567001343
          y: 0.2961040139198303
        NormalizedKeypoint #1:
          x: 0.3302789330482483
          y: 0.29289937019348145
        ... (6 keypoints for each face)
    Detection #1:
      BoundingBox:
        origin_x: 616
        origin_y: 193
        width: 430
        height: 430
      Categories:
        Category #0:
          index: 0
          score: 0.9251380562782288
      NormalizedKeypoints:
        NormalizedKeypoint #0:
          x: 0.6151331663131714
          y: 0.3713381886482239
        NormalizedKeypoint #1:
          x: 0.7460576295852661
          y: 0.38825345039367676
        ... (6 keypoints for each face)

Hình ảnh sau đây minh hoạ kết quả của tác vụ:

Đối với hình ảnh không có hộp giới hạn, hãy xem hình ảnh gốc.

Mã ví dụ về Trình phát hiện khuôn mặt minh hoạ cách hiện kết quả. Xem mã ví dụ để biết thông tin chi tiết.