Nhiệm vụ Trình phân loại hình ảnh cho phép bạn phân loại hình ảnh. Bạn có thể sử dụng tác vụ này để xác định nội dung mà một hình ảnh đại diện trong số một nhóm danh mục được xác định tại thời điểm huấn luyện. Các hướng dẫn này cho bạn biết cách sử dụng Trình phân loại hình ảnh trong các ứng dụng iOS. Bạn có thể xem mã mẫu được mô tả trong những hướng dẫn này trên GitHub.
Bạn có thể xem tác vụ này trong thực tế bằng cách xem Bản minh hoạ trên web này. Để biết thêm thông tin về các tính năng, mô hình và lựa chọn cấu hình của tác vụ này, hãy xem phần Tổng quan.
Ví dụ về mã
Mã ví dụ MediaPipe Tasks là cách triển khai cơ bản của ứng dụng Trình phân loại hình ảnh dành cho iOS. Ví dụ này sử dụng máy ảnh trên một thiết bị iOS thực để liên tục phân loại các đối tượng, đồng thời cũng có thể sử dụng hình ảnh và video từ thư viện thiết bị để phân loại tĩnh các đối tượng.
Bạn có thể dùng ứng dụng này làm điểm bắt đầu cho ứng dụng iOS của riêng mình hoặc tham khảo ứng dụng này khi sửa đổi ứng dụng hiện có. Mã ví dụ của Trình phân loại hình ảnh được lưu trữ trên GitHub.
Tải mã xuống
Các hướng dẫn sau chỉ cho bạn cách tạo bản sao cục bộ của mã ví dụ bằng công cụ dòng lệnh git.
Cách tải mã ví dụ xuống:
Sao chép kho lưu trữ git bằng lệnh sau:
git clone https://github.com/google-ai-edge/mediapipe-samples
Bạn có thể định cấu hình thực thể git để sử dụng tính năng thanh toán thưa thớt để bạn chỉ có các tệp cho ứng dụng mẫu của Trình phân loại hình ảnh:
cd mediapipe git sparse-checkout init --cone git sparse-checkout set examples/image_classification/ios/
Sau khi tạo một phiên bản cục bộ của mã ví dụ, bạn có thể cài đặt thư viện nhiệm vụ MediaPipe, mở dự án bằng Xcode và chạy ứng dụng. Để biết hướng dẫn, hãy xem Hướng dẫn thiết lập dành cho iOS.
Thành phần chính
Các tệp sau đây chứa mã quan trọng cho ứng dụng mẫu của Trình phân loại hình ảnh:
- ImageClassifierService.swift: Khởi chạy Trình phân loại hình ảnh, xử lý việc lựa chọn mô hình và chạy suy luận về dữ liệu đầu vào.
- CameraViewController.swift: Triển khai giao diện người dùng cho chế độ nhập nguồn cấp dữ liệu camera trực tiếp và trực quan hoá kết quả.
- MediaLibraryViewController.swift Triển khai giao diện người dùng cho chế độ nhập tệp hình ảnh tĩnh và tệp video, đồng thời trực quan hoá các kết quả.
Thiết lập
Phần này mô tả các bước chính để thiết lập môi trường phát triển và mã hoá dự án để sử dụng công cụ Phân loại hình ảnh. Để biết thông tin chung về cách thiết lập môi trường phát triển để sử dụng các tác vụ MediaPipe, bao gồm cả các yêu cầu về phiên bản nền tảng, hãy xem Hướng dẫn thiết lập dành cho iOS.
Phần phụ thuộc
Trình phân loại hình ảnh sử dụng thư viện MediaPipeTasksVision
. Bạn phải cài đặt thư viện này bằng CocoaPods. Thư viện này tương thích với cả ứng dụng Swift và GOAL-C và không yêu cầu thiết lập thêm theo ngôn ngữ cụ thể nào.
Để biết hướng dẫn cài đặt CocoaPods trên macOS, hãy tham khảo hướng dẫn cài đặt CocoaPods.
Để biết hướng dẫn về cách tạo Podfile
với các nhóm cần thiết cho ứng dụng, hãy tham khảo bài viết Sử dụng CocoaPods.
Thêm nhóm MediaPipeTasksVision vào Podfile
bằng mã sau:
target 'MyImageClassifierApp' do
use_frameworks!
pod 'MediaPipeTasksVision'
end
Nếu ứng dụng của bạn có các mục tiêu kiểm thử đơn vị, hãy tham khảo Hướng dẫn thiết lập dành cho iOS để biết thêm thông tin về cách thiết lập Podfile
.
Mẫu
Tác vụ Trình phân loại hình ảnh MediaPipe cần có một mô hình đã huấn luyện tương thích với tác vụ này. Để biết thêm thông tin về các mô hình đã huấn luyện hiện có cho Trình phân loại hình ảnh, hãy xem phần Mô hình tổng quan về tác vụ.
Chọn và tải mô hình xuống, sau đó thêm mô hình đó vào thư mục dự án bằng Xcode. Để biết hướng dẫn về cách thêm tệp vào dự án Xcode của bạn, hãy tham khảo bài viết Quản lý tệp và thư mục trong dự án Xcode của bạn.
Sử dụng thuộc tính BaseOptions.modelAssetPath
để chỉ định đường dẫn đến mô hình trong gói ứng dụng của bạn. Để xem ví dụ về mã, hãy xem phần tiếp theo.
Tạo việc cần làm
Bạn có thể tạo tác vụ Trình phân loại hình ảnh bằng cách gọi một trong các trình khởi tạo tương ứng. Trình khởi chạy ImageClassifier(options:)
đặt giá trị cho các tuỳ chọn cấu hình, bao gồm chế độ chạy, ngôn ngữ của tên hiển thị, số lượng kết quả tối đa, ngưỡng tin cậy, danh mục cho phép và danh sách từ chối.
Nếu không cần Trình phân loại hình ảnh được khởi chạy bằng các tuỳ chọn cấu hình tuỳ chỉnh, bạn có thể sử dụng trình khởi chạy ImageClassifier(modelPath:)
để tạo Trình phân loại hình ảnh với các tuỳ chọn mặc định. Để biết thêm thông tin về các tuỳ chọn cấu hình, hãy xem phần Tổng quan về cấu hình.
Tác vụ Trình phân loại hình ảnh hỗ trợ 3 loại dữ liệu đầu vào: ảnh tĩnh, tệp video và luồng video trực tiếp. Theo mặc định, ImageClassifier(modelPath:)
sẽ khởi chạy một tác vụ cho các hình ảnh tĩnh. Nếu bạn muốn khởi tạo tác vụ để xử lý tệp video hoặc luồng video trực tiếp, hãy sử dụng ImageClassifier(options:)
để chỉ định chế độ chạy video hoặc phát trực tiếp. Chế độ phát trực tiếp cũng yêu cầu tuỳ chọn cấu hình imageClassifierLiveStreamDelegate
bổ sung, cho phép Trình phân loại hình ảnh cung cấp kết quả phân loại hình ảnh cho thực thể uỷ quyền một cách không đồng bộ.
Chọn thẻ tương ứng với chế độ chạy của bạn để xem cách tạo tác vụ và chạy dự đoán.
Swift
Bài đăng có hình ảnh
import MediaPipeTasksVision let modelPath = Bundle.main.path(forResource: "model", ofType: "tflite") let options = ImageClassifierOptions() options.baseOptions.modelAssetPath = modelPath options.runningMode = .image options.maxResults = 5 let imageClassifier = try ImageClassifier(options: options)
Video
import MediaPipeTasksVision let modelPath = Bundle.main.path(forResource: "model", ofType: "tflite") let options = ImageClassifierOptions() options.baseOptions.modelAssetPath = modelPath options.runningMode = .video options.maxResults = 5 let imageClassifier = try ImageClassifier(options: options)
Sự kiện phát trực tiếp
import MediaPipeTasksVision // Class that conforms to the `ImageClassifierLiveStreamDelegate` protocol and // implements the method that the image classifier calls once it // finishes performing classification on each input frame. class ImageClassifierResultProcessor: NSObject, ImageClassifierLiveStreamDelegate { func imageClassifier( _ imageClassifier: ImageClassifier, didFinishClassification result: ImageClassifierResult?, timestampInMilliseconds: Int, error: Error?) { // Process the image classifier result or errors here. } } let modelPath = Bundle.main.path( forResource: "model", ofType: "tflite") let options = ImageClassifierOptions() options.baseOptions.modelAssetPath = modelPath options.runningMode = .liveStream options.maxResults = 5 // Assign an object of the class to the `imageClassifierLiveStreamDelegate` // property. let processor = ImageClassifierResultProcessor() options.imageClassifierLiveStreamDelegate = processor let imageClassifier = try ImageClassifier(options: options)
Objective-C
Bài đăng có hình ảnh
@import MediaPipeTasksVision; NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model" ofType:@"tflite"]; MPPImageClassifierOptions *options = [[MPPImageClassifierOptions alloc] init]; options.baseOptions.modelAssetPath = modelPath; options.runningMode = MPPRunningModeImage; options.maxResults = 5; MPPImageClassifier *imageClassifier = [[MPPImageClassifier alloc] initWithOptions:options error:nil];
Video
@import MediaPipeTasksVision; NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model" ofType:@"tflite"]; MPPImageClassifierOptions *options = [[MPPImageClassifierOptions alloc] init]; options.baseOptions.modelAssetPath = modelPath; options.runningMode = MPPRunningModeVideo; options.maxResults = 5; MPPImageClassifier *imageClassifier = [[MPPImageClassifier alloc] initWithOptions:options error:nil];
Sự kiện phát trực tiếp
@import MediaPipeTasksVision; // Class that conforms to the `MPPImageClassifierLiveStreamDelegate` protocol // and implements the method that the image classifier calls once it finishes // performing classification on each input frame. @interface APPImageClassifierResultProcessor : NSObject@end @implementation APPImageClassifierResultProcessor - (void)imageClassifier:(MPPImageClassifier *)imageClassifier didFinishClassificationWithResult:(MPPImageClassifierResult *)imageClassifierResult timestampInMilliseconds:(NSInteger)timestampInMilliseconds error:(NSError *)error { // Process the image classifier result or errors here. } @end NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"model" ofType:@"tflite"]; MPPImageClassifierOptions *options = [[MPPImageClassifierOptions alloc] init]; options.baseOptions.modelAssetPath = modelPath; options.runningMode = MPPRunningModeLiveStream; options.maxResults = 5; // Assign an object of the class to the `imageClassifierLiveStreamDelegate` // property. APPImageClassifierResultProcessor *processor = [APPImageClassifierResultProcessor new]; options.imageClassifierLiveStreamDelegate = processor; MPPImageClassifier *imageClassifier = [[MPPImageClassifier alloc] initWithOptions:options error:nil];
Các lựa chọn về cấu hình
Nhiệm vụ này có các lựa chọn cấu hình sau đây cho ứng dụng iOS:
Tên lựa chọn | Nội dung mô tả | Khoảng giá trị | Giá trị mặc định |
---|---|---|---|
runningMode |
Thiết lập chế độ chạy cho tác vụ. Có 3 chế độ: IMAGE: Chế độ để nhập một hình ảnh. VIDEO: Chế độ cho khung đã giải mã của video. LIVE_STREAM: Chế độ phát trực tiếp dữ liệu đầu vào, chẳng hạn như từ máy quay. Ở chế độ này, resultsListener phải được gọi để thiết lập trình nghe để nhận kết quả một cách không đồng bộ. |
{RunningMode.image, RunningMode.video, RunningMode.liveStream } |
RunningMode.image |
displayNamesLocale |
Đặt ngôn ngữ của nhãn để dùng cho tên hiển thị được cung cấp trong siêu dữ liệu của mô hình tác vụ (nếu có). Giá trị mặc định là en cho
tiếng Anh. Bạn có thể thêm các nhãn đã bản địa hoá vào siêu dữ liệu của một mô hình tuỳ chỉnh bằng TensorFlow Lite Metadata Writer API |
Mã ngôn ngữ | vi |
maxResults |
Đặt số lượng kết quả phân loại có điểm số cao nhất tối đa (không bắt buộc) cần trả về. Nếu < 0, tất cả kết quả hiện có sẽ được trả về. | Bất kỳ số dương nào | -1 |
scoreThreshold |
Đặt ngưỡng điểm số dự đoán sẽ ghi đè ngưỡng điểm số được cung cấp trong siêu dữ liệu của mô hình (nếu có). Những kết quả thấp hơn giá trị này sẽ bị từ chối. | Số thực bất kỳ | Chưa được đặt |
categoryAllowlist |
Đặt danh sách các tên danh mục được phép (không bắt buộc). Nếu không để trống, kết quả phân loại có tên danh mục không nằm trong tập hợp này sẽ bị lọc ra. Tên danh mục trùng lặp hoặc không xác định sẽ bị bỏ qua.
Lựa chọn này loại trừ lẫn nhau với categoryDenylist và việc sử dụng cả hai sẽ dẫn đến lỗi. |
Chuỗi bất kỳ | Chưa được đặt |
categoryDenylist |
Đặt danh sách tên danh mục không được phép (không bắt buộc). Nếu không để trống, các kết quả phân loại có tên danh mục nằm trong tập hợp này sẽ bị lọc ra. Tên danh mục trùng lặp hoặc không xác định sẽ bị bỏ qua. Lựa chọn này loại trừ lẫn nhau với categoryAllowlist và việc sử dụng cả hai sẽ dẫn đến lỗi. |
Chuỗi bất kỳ | Chưa được đặt |
resultListener |
Thiết lập trình nghe kết quả để nhận kết quả phân loại một cách không đồng bộ khi Trình phân loại hình ảnh đang ở chế độ phát trực tiếp. Chỉ sử dụng được khi bạn đặt chế độ chạy thành LIVE_STREAM |
Không áp dụng | Chưa được đặt |
Cấu hình sự kiện phát trực tiếp
Khi bạn đặt chế độ chạy thành phát trực tiếp, Trình phân loại hình ảnh sẽ yêu cầu lựa chọn cấu hình imageClassifierLiveStreamDelegate
bổ sung. Lựa chọn này cho phép thuật toán phân loại cung cấp kết quả phân loại một cách không đồng bộ. Tính năng uỷ quyền sẽ triển khai phương thức imageClassifier(_:didFinishClassification:timestampInMilliseconds:error:)
mà Trình phân loại hình ảnh gọi sau khi xử lý kết quả phân loại cho từng khung hình.
Tên tùy chọn | Nội dung mô tả | Khoảng giá trị | Giá trị mặc định |
---|---|---|---|
imageClassifierLiveStreamDelegate |
Bật Công cụ phân loại hình ảnh để nhận kết quả phân loại một cách không đồng bộ ở chế độ phát trực tiếp. Lớp có thực thể được đặt thành thuộc tính này phải triển khai phương thức imageClassifier(_:didFinishClassification:timestampInMilliseconds:error:) . |
Không áp dụng | Chưa được đặt |
Chuẩn bị dữ liệu
Bạn cần chuyển đổi hình ảnh hoặc khung đầu vào thành đối tượng MPImage
trước khi truyền đối tượng đó đến Trình phân loại hình ảnh. MPImage
hỗ trợ nhiều loại định dạng hình ảnh iOS và có thể sử dụng các định dạng đó ở mọi chế độ chạy để suy luận. Để biết thêm thông tin về MPImage
, hãy tham khảo API MPImage
Hãy chọn định dạng hình ảnh iOS dựa trên trường hợp sử dụng và chế độ chạy mà ứng dụng của bạn yêu cầu.MPImage
chấp nhận các định dạng hình ảnh iOS UIImage
, CVPixelBuffer
và CMSampleBuffer
.
UIImage
Định dạng UIImage
rất phù hợp với các chế độ chạy sau đây:
Hình ảnh: có thể chuyển đổi hình ảnh từ gói ứng dụng, thư viện người dùng hoặc hệ thống tệp có định dạng là hình ảnh
UIImage
thành đối tượngMPImage
.Video: Sử dụng AVAssetImageGenerator để trích xuất khung hình video sang định dạng CGImage, sau đó chuyển đổi chúng thành hình ảnh
UIImage
.
Swift
// Load an image on the user's device as an iOS `UIImage` object. // Convert the `UIImage` object to a MediaPipe's Image object having the default // orientation `UIImage.Orientation.up`. let image = try MPImage(uiImage: image)
Objective-C
// Load an image on the user's device as an iOS `UIImage` object. // Convert the `UIImage` object to a MediaPipe's Image object having the default // orientation `UIImageOrientationUp`. MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
Ví dụ này sẽ khởi chạy MPImage
theo hướng UIImage.Orientation.Up mặc định. Bạn có thể khởi chạy MPImage
bằng bất kỳ giá trị UIImage.Orientation nào được hỗ trợ. Trình phân loại hình ảnh không hỗ trợ hướng được phản chiếu như .upMirrored
, .downMirrored
, .leftMirrored
, .rightMirrored
.
Để biết thêm thông tin về UIImage
, hãy tham khảo Tài liệu dành cho nhà phát triển UIImage.
CVPixelBuffer
Định dạng CVPixelBuffer
rất phù hợp với các ứng dụng tạo khung và dùng khung CoreImage của iOS để xử lý.
Định dạng CVPixelBuffer
rất phù hợp với các chế độ chạy sau đây:
Hình ảnh: ứng dụng tạo hình ảnh
CVPixelBuffer
sau một số quá trình xử lý bằng khungCoreImage
của iOS có thể được gửi đến Trình phân loại hình ảnh ở chế độ chạy hình ảnh.Video: bạn có thể chuyển đổi khung hình video sang định dạng
CVPixelBuffer
để xử lý, sau đó gửi đến Trình phân loại hình ảnh ở chế độ video.phát trực tiếp: các ứng dụng dùng máy ảnh iOS để tạo khung hình có thể được chuyển đổi sang định dạng
CVPixelBuffer
để xử lý trước khi gửi đến Trình phân loại hình ảnh ở chế độ phát trực tiếp.
Swift
// Obtain a CVPixelBuffer. // Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the default // orientation `UIImage.Orientation.up`. let image = try MPImage(pixelBuffer: pixelBuffer)
Objective-C
// Obtain a CVPixelBuffer. // Convert the `CVPixelBuffer` object to a MediaPipe's Image object having the // default orientation `UIImageOrientationUp`. MPImage *image = [[MPPImage alloc] initWithUIImage:image error:nil];
Để biết thêm thông tin về CVPixelBuffer
, hãy tham khảo Tài liệu dành cho nhà phát triển về CVPixelBuffer của Apple.
CMSampleBuffer
Định dạng CMSampleBuffer
lưu trữ các mẫu nội dung nghe nhìn thuộc một loại nội dung nghe nhìn đồng nhất và rất phù hợp với chế độ chạy phát trực tiếp. Khung hình trực tiếp từ máy ảnh iOS được AVCaptureVideoDataOutput của iOS phân phối không đồng bộ ở định dạng CMSampleBuffer
.
Swift
// Obtain a CMSampleBuffer. // Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the default // orientation `UIImage.Orientation.up`. let image = try MPImage(sampleBuffer: sampleBuffer)
Objective-C
// Obtain a `CMSampleBuffer`. // Convert the `CMSampleBuffer` object to a MediaPipe's Image object having the // default orientation `UIImageOrientationUp`. MPImage *image = [[MPPImage alloc] initWithSampleBuffer:sampleBuffer error:nil];
Để biết thêm thông tin về CMSampleBuffer
, hãy tham khảo Tài liệu dành cho nhà phát triển CMSampleBuffer của Apple.
Chạy tác vụ
Để chạy Trình phân loại hình ảnh, hãy sử dụng phương thức classify()
dành riêng cho chế độ chạy đã chỉ định:
- Hình ảnh tĩnh:
classify(image:)
- Video:
classify(videoFrame:timestampInMilliseconds:)
- sự kiện phát trực tiếp:
classifyAsync(image:timestampInMilliseconds:)
Trình phân loại hình ảnh trả về các danh mục có thể có cho đối tượng trong hình ảnh hoặc khung đầu vào.
Các mã mẫu sau đây là ví dụ cơ bản về cách chạy tính năng Phân loại hình ảnh ở nhiều chế độ chạy sau đây:
Swift
Bài đăng có hình ảnh
let result = try imageClassifier.classify(image: image)
Video
let result = try imageClassifier.classify( videoFrame: image, timestampInMilliseconds: timestamp)
Sự kiện phát trực tiếp
try imageClassifier.classifyAsync( image: image, timestampInMilliseconds: timestamp)
Objective-C
Bài đăng có hình ảnh
MPPImageClassifierResult *result = [imageClassifier classifyImage:image error:nil];
Video
MPPImageClassifierResult *result = [imageClassifier classifyVideoFrame:image timestampInMilliseconds:timestamp error:nil];
Sự kiện phát trực tiếp
BOOL success = [imageClassifier classifyAsyncImage:image timestampInMilliseconds:timestamp error:nil];
Ví dụ về mã của Trình phân loại hình ảnh cho thấy thông tin chi tiết hơn về cách triển khai từng chế độ classify(image:)
, classify(videoFrame:timestampInMilliseconds:)
và classifyAsync(image:timestampInMilliseconds:)
. Mã ví dụ cho phép người dùng chuyển đổi giữa các chế độ xử lý có thể không bắt buộc đối với trường hợp sử dụng của bạn.
Xin lưu ý những điều sau:
Khi chạy ở chế độ video hoặc chế độ phát trực tiếp, bạn cũng phải cung cấp dấu thời gian của khung đầu vào cho tác vụ Trình phân loại hình ảnh.
Khi chạy ở chế độ hình ảnh hoặc video, tác vụ Trình phân loại hình ảnh sẽ chặn luồng hiện tại cho đến khi xử lý xong khung hoặc hình ảnh đầu vào. Để tránh chặn luồng hiện tại, hãy thực thi quá trình xử lý trong một luồng ở chế độ nền bằng các khung Dispatch hoặc NSOperation của iOS.
Khi chạy ở chế độ phát trực tiếp, tác vụ Trình phân loại hình ảnh sẽ trả về ngay lập tức và không chặn luồng hiện tại. Phương thức này sẽ gọi phương thức
imageClassifier(_:didFinishClassification:timestampInMilliseconds:error:)
kèm theo kết quả phân loại sau khi xử lý từng khung đầu vào. Trình phân loại hình ảnh gọi phương thức này không đồng bộ trên hàng đợi gửi nối tiếp chuyên dụng. Để hiển thị kết quả trên giao diện người dùng, hãy gửi kết quả đến hàng đợi chính sau khi xử lý kết quả. Nếu hàmclassifyAsync
được gọi khi tác vụ Trình phân loại hình ảnh đang bận xử lý một khung khác, thì Trình phân loại hình ảnh sẽ bỏ qua khung đầu vào mới.
Xử lý và hiện kết quả
Sau khi chạy dự đoán, tác vụ Trình phân loại hình ảnh sẽ trả về một đối tượng ImageClassifierResult
chứa danh sách các danh mục có thể có cho các đối tượng trong hình ảnh hoặc khung đầu vào.
Sau đây là ví dụ về dữ liệu đầu ra của tác vụ này:
ImageClassifierResult:
Classifications #0 (single classification head):
head index: 0
category #0:
category name: "/m/01bwb9"
display name: "Passer domesticus"
score: 0.91406
index: 671
category #1:
category name: "/m/01bwbt"
display name: "Passer montanus"
score: 0.00391
index: 670
Kết quả này thu được bằng cách chạy Trình phân loại chim trên:
Mã ví dụ của Trình phân loại hình ảnh minh hoạ cách hiển thị kết quả phân loại được trả về từ tác vụ. Hãy xem ví dụ về mã để biết thông tin chi tiết.