MediaPipe Face Marker 工作可讓您偵測圖片和影片中的臉孔地標和臉部表情。您可以運用這項工作辨識人臉表情,並套用臉部濾鏡和特效,建立虛擬虛擬化身。這項工作使用的機器學習 (ML) 模型可與單一圖片或連續圖片串流搭配使用。這個工作會輸出 3D 臉部地標、混合形狀分數 (代表臉部表情的係數) 來即時推論出詳細臉部面,並轉換矩陣,執行轉譯效果所需的轉換。
您可以前往 GitHub 取得這些操作說明中提及的程式碼範例。如要進一步瞭解這項工作的功能、模型和設定選項,請參閱總覽。
程式碼範例
Face 地標程式的範例程式碼提供這項工作在 Python 中的完整實作,供您參考。這段程式碼可協助您測試這項工作,並開始建構自己的臉部地標。您可以使用網路瀏覽器來查看、執行及編輯 Face Marker 範例程式碼。
如果您要實作 Raspberry Pi 的臉部地標工具,請參閱 Raspberry Pi 範例應用程式。
設定
本節說明如何設定開發環境,以及專門針對使用臉孔地標工具的程式碼專案進行程式碼專案。如需瞭解如何使用 MediaPipe 工作設定開發環境的一般資訊,包括平台版本需求,請參閱 Python 設定指南。
套裝組合
MediaPipe Face Landmarker 工作需要 Mediapipe PyPI 套件。您可以透過下列程式碼安裝並匯入這些依附元件:
$ python -m pip install mediapipe
匯入
匯入下列類別,即可存取「臉孔地標」工作功能:
import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision
型號
MediaPipe Face Marker 工作需要經過訓練且與這項工作相容的模型。如要進一步瞭解「臉孔地標工具」的可用已訓練模型,請參閱工作總覽「模型」一節。
選取並下載模型,然後儲存至本機目錄:
model_path = '/absolute/path/to/face_landmarker.task'
使用 BaseOptions
物件 model_asset_path
參數指定要使用的模型路徑。如需程式碼範例,請參閱下一節。
建立工作
MediaPipe Face 地標工作會使用 create_from_options
函式設定工作。create_from_options
函式可接受設定選項值來處理。如要進一步瞭解設定選項,請參閱「設定選項」一文。
下列程式碼示範如何建構及設定這項工作。
這些範例也會顯示圖片、影片檔案和直播工作建構的變化。
圖片
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions FaceLandmarker = mp.tasks.vision.FaceLandmarker FaceLandmarkerOptions = mp.tasks.vision.FaceLandmarkerOptions VisionRunningMode = mp.tasks.vision.RunningMode options = FaceLandmarkerOptions( base_options=BaseOptions(model_asset_path=model_path), running_mode=VisionRunningMode.IMAGE) with FaceLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
影片
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions FaceLandmarker = mp.tasks.vision.FaceLandmarker FaceLandmarkerOptions = mp.tasks.vision.FaceLandmarkerOptions VisionRunningMode = mp.tasks.vision.RunningMode # Create a face landmarker instance with the video mode: options = FaceLandmarkerOptions( base_options=BaseOptions(model_asset_path=model_path), running_mode=VisionRunningMode.VIDEO) with FaceLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
直播
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions FaceLandmarker = mp.tasks.vision.FaceLandmarker FaceLandmarkerOptions = mp.tasks.vision.FaceLandmarkerOptions FaceLandmarkerResult = mp.tasks.vision.FaceLandmarkerResult VisionRunningMode = mp.tasks.vision.RunningMode # Create a face landmarker instance with the live stream mode: def print_result(result: FaceLandmarkerResult, output_image: mp.Image, timestamp_ms: int): print('face landmarker result: {}'.format(result)) options = FaceLandmarkerOptions( base_options=BaseOptions(model_asset_path=model_path), running_mode=VisionRunningMode.LIVE_STREAM, result_callback=print_result) with FaceLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
如需建立與圖片搭配使用的臉孔地標工具的完整範例,請參閱程式碼範例。
設定選項
這項工作的 Python 應用程式設定選項如下:
選項名稱 | 說明 | 值範圍 | 預設值 |
---|---|---|---|
running_mode |
設定工作的執行模式。共有三種模式: IMAGE:單一圖片輸入的模式。 影片:影片已解碼影格的模式。 LIVE_STREAM:輸入資料串流 (例如攝影機) 的直播模式。在這個模式下,必須呼叫 resultListener 才能設定事件監聽器,以非同步方式接收結果。 |
{IMAGE, VIDEO, LIVE_STREAM } |
IMAGE |
num_faces |
FaceLandmarker 可以偵測的臉孔數量上限。只有在 num_faces 設為 1 時,系統才會套用平滑效果。 |
Integer > 0 |
1 |
min_face_detection_confidence |
用於判定臉部偵測成功率的最低可信度分數。 | Float [0.0,1.0] |
0.5 |
min_face_presence_confidence |
在臉部地標偵測中,臉孔存在分數的最低可信度分數。 | Float [0.0,1.0] |
0.5 |
min_tracking_confidence |
臉部追蹤偵測結果的可信度下限。 | Float [0.0,1.0] |
0.5 |
output_face_blendshapes |
是否將臉孔地標工具輸出的內容呈現在臉上。 臉部混合形狀是用來算繪 3D 臉部模型。 | Boolean |
False |
output_facial_transformation_matrixes |
指定 FaceLandmarker 是否輸出臉部變形矩陣。FaceLandmarker 使用矩陣,將臉部地標從標準臉部模型轉換為偵測到的臉孔,讓使用者能對偵測到的地標套用效果。 | Boolean |
False |
result_callback |
設定結果監聽器,在直播模式的 FaceLandMarker 處於直播模式時,以非同步方式接收地標結果。只能在執行模式設為 LIVE_STREAM 時使用 |
ResultListener |
N/A |
準備資料
將輸入內容準備為圖片檔或 numpy 陣列,然後再將其轉換為 mediapipe.Image
物件。如果輸入內容是來自網路攝影機的影片檔案或直播,可以使用外部程式庫 (例如 OpenCV) 將輸入影格載入為 numpy 陣列。
圖片
import mediapipe as mp # Load the input image from an image file. mp_image = mp.Image.create_from_file('/path/to/image') # Load the input image from a numpy array. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)
影片
import mediapipe as mp # Use OpenCV’s VideoCapture to load the input video. # Load the frame rate of the video using OpenCV’s CV_CAP_PROP_FPS # You’ll need it to calculate the timestamp for each frame. # Loop through each frame in the video using VideoCapture#read() # Convert the frame received from OpenCV to a MediaPipe’s Image object. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
直播
import mediapipe as mp # Use OpenCV’s VideoCapture to start capturing from the webcam. # Create a loop to read the latest frame from the camera using VideoCapture#read() # Convert the frame received from OpenCV to a MediaPipe’s Image object. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
執行工作
錶面地標會使用 detect
、detect_for_video
和 detect_async
函式來觸發推論。臉部地標需要預先處理輸入資料,以及偵測圖片中的臉孔。
下列程式碼示範如何使用工作模型執行處理。
圖片
# Perform face landmarking on the provided single image. # The face landmarker must be created with the image mode. face_landmarker_result = landmarker.detect(mp_image)
影片
# Perform face landmarking on the provided single image. # The face landmarker must be created with the video mode. face_landmarker_result = landmarker.detect_for_video(mp_image, frame_timestamp_ms)
直播
# Send live image data to perform face landmarking. # The results are accessible via the `result_callback` provided in # the `FaceLandmarkerOptions` object. # The face landmarker must be created with the live stream mode. landmarker.detect_async(mp_image, frame_timestamp_ms)
注意事項:
- 在影片模式或直播模式下執行時,請一併提供人臉地標任務的輸入影格的時間戳記。
- 在圖片或影片模型中執行時,臉部地標工作會封鎖目前的執行緒,直到處理完成輸入圖片或影格為止。
- 以直播模式執行時,「臉孔地標」工作會立即回傳,且不會封鎖目前的執行緒。每當它處理完輸入影格時,就會透過偵測結果叫用結果監聽器。如果臉部地標工作正在忙於處理另一個影格時呼叫偵測功能,則任務會忽略新的輸入影格。
如需在圖片上執行「臉孔地標」的完整範例,請參閱程式碼範例。
處理並顯示結果
臉孔地標 er 會在每次執行偵測時傳回 FaceLandmarkerResult
物件。結果物件會包含每個偵測到的臉孔網格,以及每個臉孔地標的座標。結果物件也可以視需要包含混合形狀 (表示臉部表情),以及臉部轉換矩陣,對偵測到的地標套用臉部效果。
以下為這項工作的輸出資料範例:
FaceLandmarkerResult:
face_landmarks:
NormalizedLandmark #0:
x: 0.5971359014511108
y: 0.485361784696579
z: -0.038440968841314316
NormalizedLandmark #1:
x: 0.3302789330482483
y: 0.29289937019348145
z: -0.09489090740680695
... (478 landmarks for each face)
face_blendshapes:
browDownLeft: 0.8296722769737244
browDownRight: 0.8096957206726074
browInnerUp: 0.00035583582939580083
browOuterUpLeft: 0.00035752105759456754
... (52 blendshapes for each face)
facial_transformation_matrixes:
[9.99158978e-01, -1.23036895e-02, 3.91213447e-02, -3.70770246e-01]
[1.66496094e-02, 9.93480563e-01, -1.12779640e-01, 2.27719707e+01]
...
下圖以視覺化方式呈現工作輸出內容:
Face Marker 範例程式碼會示範如何顯示工作傳回的結果,詳情請參閱程式碼範例。