Python 的臉孔地標偵測指南

MediaPipe Face Marker 工作可讓您偵測圖片和影片中的臉孔地標和臉部表情。您可以運用這項工作辨識人臉表情，並套用臉部濾鏡和特效，建立虛擬虛擬化身。這項工作使用的機器學習 (ML) 模型可與單一圖片或連續圖片串流搭配使用。這個工作會輸出 3D 臉部地標、混合形狀分數 (代表臉部表情的係數) 來即時推論出詳細臉部面，並轉換矩陣，執行轉譯效果所需的轉換。

您可以前往 GitHub 取得這些操作說明中提及的程式碼範例。如要進一步瞭解這項工作的功能、模型和設定選項，請參閱總覽。

程式碼範例

Face 地標程式的範例程式碼提供這項工作在 Python 中的完整實作，供您參考。這段程式碼可協助您測試這項工作，並開始建構自己的臉部地標。您可以使用網路瀏覽器來查看、執行及編輯 Face Marker 範例程式碼。

如果您要實作 Raspberry Pi 的臉部地標工具，請參閱 Raspberry Pi 範例應用程式。

設定

本節說明如何設定開發環境，以及專門針對使用臉孔地標工具的程式碼專案進行程式碼專案。如需瞭解如何使用 MediaPipe 工作設定開發環境的一般資訊，包括平台版本需求，請參閱 Python 設定指南。

套裝組合

MediaPipe Face Landmarker 工作需要 Mediapipe PyPI 套件。您可以透過下列程式碼安裝並匯入這些依附元件：

$ python -m pip install mediapipe

匯入

匯入下列類別，即可存取「臉孔地標」工作功能：

import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision

型號

MediaPipe Face Marker 工作需要經過訓練且與這項工作相容的模型。如要進一步瞭解「臉孔地標工具」的可用已訓練模型，請參閱工作總覽「模型」一節。

選取並下載模型，然後儲存至本機目錄：

model_path = '/absolute/path/to/face_landmarker.task'

使用 BaseOptions 物件 model_asset_path 參數指定要使用的模型路徑。如需程式碼範例，請參閱下一節。

建立工作

MediaPipe Face 地標工作會使用 create_from_options 函式設定工作。create_from_options 函式可接受設定選項值來處理。如要進一步瞭解設定選項，請參閱「設定選項」一文。

下列程式碼示範如何建構及設定這項工作。

這些範例也會顯示圖片、影片檔案和直播工作建構的變化。

import mediapipe as mp

BaseOptions = mp.tasks.BaseOptions
FaceLandmarker = mp.tasks.vision.FaceLandmarker
FaceLandmarkerOptions = mp.tasks.vision.FaceLandmarkerOptions
VisionRunningMode = mp.tasks.vision.RunningMode

options = FaceLandmarkerOptions(
    base_options=BaseOptions(model_asset_path=model_path),
    running_mode=VisionRunningMode.IMAGE)

with FaceLandmarker.create_from_options(options) as landmarker:
  # The landmarker is initialized. Use it here.
  # ...
    

import mediapipe as mp

BaseOptions = mp.tasks.BaseOptions
FaceLandmarker = mp.tasks.vision.FaceLandmarker
FaceLandmarkerOptions = mp.tasks.vision.FaceLandmarkerOptions
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a face landmarker instance with the video mode:
options = FaceLandmarkerOptions(
    base_options=BaseOptions(model_asset_path=model_path),
    running_mode=VisionRunningMode.VIDEO)

with FaceLandmarker.create_from_options(options) as landmarker:
  # The landmarker is initialized. Use it here.
  # ...
    

import mediapipe as mp

BaseOptions = mp.tasks.BaseOptions
FaceLandmarker = mp.tasks.vision.FaceLandmarker
FaceLandmarkerOptions = mp.tasks.vision.FaceLandmarkerOptions
FaceLandmarkerResult = mp.tasks.vision.FaceLandmarkerResult
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a face landmarker instance with the live stream mode:
def print_result(result: FaceLandmarkerResult, output_image: mp.Image, timestamp_ms: int):
    print('face landmarker result: {}'.format(result))

options = FaceLandmarkerOptions(
    base_options=BaseOptions(model_asset_path=model_path),
    running_mode=VisionRunningMode.LIVE_STREAM,
    result_callback=print_result)

with FaceLandmarker.create_from_options(options) as landmarker:
  # The landmarker is initialized. Use it here.
  # ...
    

如需建立與圖片搭配使用的臉孔地標工具的完整範例，請參閱程式碼範例。

設定選項

這項工作的 Python 應用程式設定選項如下：

準備資料

將輸入內容準備為圖片檔或 numpy 陣列，然後再將其轉換為 mediapipe.Image 物件。如果輸入內容是來自網路攝影機的影片檔案或直播，可以使用外部程式庫 (例如 OpenCV) 將輸入影格載入為 numpy 陣列。

import mediapipe as mp

# Load the input image from an image file.
mp_image = mp.Image.create_from_file('/path/to/image')

# Load the input image from a numpy array.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)
    

import mediapipe as mp

# Use OpenCV’s VideoCapture to load the input video.

# Load the frame rate of the video using OpenCV’s CV_CAP_PROP_FPS
# You’ll need it to calculate the timestamp for each frame.

# Loop through each frame in the video using VideoCapture#read()

# Convert the frame received from OpenCV to a MediaPipe’s Image object.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
    

import mediapipe as mp

# Use OpenCV’s VideoCapture to start capturing from the webcam.

# Create a loop to read the latest frame from the camera using VideoCapture#read()

# Convert the frame received from OpenCV to a MediaPipe’s Image object.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
    

執行工作

錶面地標會使用 detect、detect_for_video 和 detect_async 函式來觸發推論。臉部地標需要預先處理輸入資料，以及偵測圖片中的臉孔。

下列程式碼示範如何使用工作模型執行處理。

# Perform face landmarking on the provided single image.
# The face landmarker must be created with the image mode.
face_landmarker_result = landmarker.detect(mp_image)
    

# Perform face landmarking on the provided single image.
# The face landmarker must be created with the video mode.
face_landmarker_result = landmarker.detect_for_video(mp_image, frame_timestamp_ms)
    

# Send live image data to perform face landmarking.
# The results are accessible via the `result_callback` provided in
# the `FaceLandmarkerOptions` object.
# The face landmarker must be created with the live stream mode.
landmarker.detect_async(mp_image, frame_timestamp_ms)
    

注意事項：

• 在影片模式或直播模式下執行時，請一併提供人臉地標任務的輸入影格的時間戳記。
• 在圖片或影片模型中執行時，臉部地標工作會封鎖目前的執行緒，直到處理完成輸入圖片或影格為止。
• 以直播模式執行時，「臉孔地標」工作會立即回傳，且不會封鎖目前的執行緒。每當它處理完輸入影格時，就會透過偵測結果叫用結果監聽器。如果臉部地標工作正在忙於處理另一個影格時呼叫偵測功能，則任務會忽略新的輸入影格。

如需在圖片上執行「臉孔地標」的完整範例，請參閱程式碼範例。

處理並顯示結果

臉孔地標 er 會在每次執行偵測時傳回 FaceLandmarkerResult 物件。結果物件會包含每個偵測到的臉孔網格，以及每個臉孔地標的座標。結果物件也可以視需要包含混合形狀 (表示臉部表情)，以及臉部轉換矩陣，對偵測到的地標套用臉部效果。

以下為這項工作的輸出資料範例：

FaceLandmarkerResult:
  face_landmarks:
    NormalizedLandmark #0:
      x: 0.5971359014511108
      y: 0.485361784696579
      z: -0.038440968841314316
    NormalizedLandmark #1:
      x: 0.3302789330482483
      y: 0.29289937019348145
      z: -0.09489090740680695
    ... (478 landmarks for each face)
  face_blendshapes:
    browDownLeft: 0.8296722769737244
    browDownRight: 0.8096957206726074
    browInnerUp: 0.00035583582939580083
    browOuterUpLeft: 0.00035752105759456754
    ... (52 blendshapes for each face)
  facial_transformation_matrixes:
    [9.99158978e-01, -1.23036895e-02, 3.91213447e-02, -3.70770246e-01]
    [1.66496094e-02,  9.93480563e-01, -1.12779640e-01, 2.27719707e+01]
    ...

下圖以視覺化方式呈現工作輸出內容：

Face Marker 範例程式碼會示範如何顯示工作傳回的結果，詳情請參閱程式碼範例。