Python용 포즈 랜드마크 감지 가이드

MediaPipe Pose Landscapeer 작업을 사용하면 이미지 또는 동영상에서 인체의 랜드마크를 감지할 수 있습니다. 이 작업을 사용하여 주요 신체 위치를 식별하고 자세를 분석하며 움직임을 분류할 수 있습니다. 이 작업에서는 단일 이미지 또는 동영상으로 작동하는 머신러닝 (ML) 모델을 사용합니다 작업 출력 본문은 이미지 좌표 및 3차원 세계 좌표로 랜드마크를 포즈합니다.

이 안내에 설명된 코드 샘플은 GitHub에서 제공됩니다. 이 태스크의 기능, 모델, 구성 옵션에 대한 자세한 내용은 개요를 참조하세요.

코드 예시

포즈 랜드마크커의 예시 코드는 참조용으로 Python에서 이 작업을 완전히 구현합니다. 이 코드는 이 작업을 테스트하고 자체 포즈 랜드마크 빌드를 시작하는 데 도움이 됩니다. 웹브라우저만 사용하여 포즈 랜드마크 예 코드를 보고 실행하고 수정할 수 있습니다.

Raspberry Pi용 Pose Landscapeer를 구현하는 경우 Raspberry Pi 예 앱을 참고하세요.

설정

이 섹션에서는 개발 환경을 설정하고 특히 Pose Landscapeer를 사용하도록 프로젝트를 코딩하는 주요 단계를 설명합니다. 플랫폼 버전 요구사항을 포함하여 MediaPipe 태스크를 사용하기 위한 개발 환경 설정에 관한 일반적인 정보는 Python 설정 가이드를 참조하세요.

패키지

MediaPipe Pose 궁금한 점이 있으면 미디어파이프 PyPI 패키지가 필요합니다. 다음을 사용하여 이러한 종속 항목을 설치하고 가져올 수 있습니다.

$ python -m pip install mediapipe

가져오기

포즈 랜드마크러 작업 함수에 액세스하려면 다음 클래스를 가져오세요.

import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision

모델

MediaPipe Pose Landscapeer 작업에는 이 작업과 호환되는 학습된 모델이 필요합니다. 포즈 랜드마크 도구에 사용할 수 있는 학습된 모델에 대한 자세한 내용은 작업 개요 모델 섹션을 참조하세요.

모델을 선택 및 다운로드한 다음 로컬 디렉터리에 저장합니다.

model_path = '/absolute/path/to/pose_landmarker.task'

BaseOptions 객체 model_asset_path 매개변수를 사용하여 사용할 모델의 경로를 지정합니다. 코드 예는 다음 섹션을 참고하세요.

할 일 만들기

MediaPipe Pose Landscapeer 작업은 create_from_options 함수를 사용하여 작업을 설정합니다. create_from_options 함수는 처리할 구성 옵션의 값을 허용합니다. 자세한 내용은 구성 옵션을 참고하세요.

다음 코드는 이 작업을 빌드하고 구성하는 방법을 보여줍니다.

또한 이 샘플은 이미지, 동영상 파일, 라이브 스트림에 대한 작업 구성의 변형을 보여줍니다.

import mediapipe as mp

BaseOptions = mp.tasks.BaseOptions
PoseLandmarker = mp.tasks.vision.PoseLandmarker
PoseLandmarkerOptions = mp.tasks.vision.PoseLandmarkerOptions
VisionRunningMode = mp.tasks.vision.RunningMode

options = PoseLandmarkerOptions(
    base_options=BaseOptions(model_asset_path=model_path),
    running_mode=VisionRunningMode.IMAGE)

with PoseLandmarker.create_from_options(options) as landmarker:
  # The landmarker is initialized. Use it here.
  # ...
    

import mediapipe as mp

BaseOptions = mp.tasks.BaseOptions
PoseLandmarker = mp.tasks.vision.PoseLandmarker
PoseLandmarkerOptions = mp.tasks.vision.PoseLandmarkerOptions
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a pose landmarker instance with the video mode:
options = PoseLandmarkerOptions(
    base_options=BaseOptions(model_asset_path=model_path),
    running_mode=VisionRunningMode.VIDEO)

with PoseLandmarker.create_from_options(options) as landmarker:
  # The landmarker is initialized. Use it here.
  # ...
    

import mediapipe as mp

BaseOptions = mp.tasks.BaseOptions
PoseLandmarker = mp.tasks.vision.PoseLandmarker
PoseLandmarkerOptions = mp.tasks.vision.PoseLandmarkerOptions
PoseLandmarkerResult = mp.tasks.vision.PoseLandmarkerResult
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a pose landmarker instance with the live stream mode:
def print_result(result: PoseLandmarkerResult, output_image: mp.Image, timestamp_ms: int):
    print('pose landmarker result: {}'.format(result))

options = PoseLandmarkerOptions(
    base_options=BaseOptions(model_asset_path=model_path),
    running_mode=VisionRunningMode.LIVE_STREAM,
    result_callback=print_result)

with PoseLandmarker.create_from_options(options) as landmarker:
  # The landmarker is initialized. Use it here.
  # ...
    

이미지와 함께 사용할 포즈 랜드마크를 만드는 전체 예는 코드 예를 참고하세요.

구성 옵션

이 태스크에는 다음과 같은 Python 애플리케이션 구성 옵션이 있습니다.

데이터 준비

입력을 이미지 파일 또는 Numpy 배열로 준비한 다음 mediapipe.Image 객체로 변환합니다. 입력이 동영상 파일이나 웹캠의 실시간 스트림인 경우 OpenCV와 같은 외부 라이브러리를 사용하여 입력 프레임을 Numpy 배열로 로드할 수 있습니다.

import mediapipe as mp

# Load the input image from an image file.
mp_image = mp.Image.create_from_file('/path/to/image')

# Load the input image from a numpy array.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)
    

import mediapipe as mp

# Use OpenCV’s VideoCapture to load the input video.

# Load the frame rate of the video using OpenCV’s CV_CAP_PROP_FPS
# You’ll need it to calculate the timestamp for each frame.

# Loop through each frame in the video using VideoCapture#read()

# Convert the frame received from OpenCV to a MediaPipe’s Image object.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
    

import mediapipe as mp

# Use OpenCV’s VideoCapture to start capturing from the webcam.

# Create a loop to read the latest frame from the camera using VideoCapture#read()

# Convert the frame received from OpenCV to a MediaPipe’s Image object.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
    

작업 실행

포즈 랜드마크는 detect, detect_for_video, detect_async 함수를 사용하여 추론을 트리거합니다. 포즈 랜드마크 지정의 경우 여기에는 입력 데이터 사전 처리 및 이미지 내 포즈 감지가 포함됩니다.

다음 코드는 작업 모델을 사용하여 처리를 실행하는 방법을 보여줍니다.

# Perform pose landmarking on the provided single image.
# The pose landmarker must be created with the image mode.
pose_landmarker_result = landmarker.detect(mp_image)
    

# Perform pose landmarking on the provided single image.
# The pose landmarker must be created with the video mode.
pose_landmarker_result = landmarker.detect_for_video(mp_image, frame_timestamp_ms)
    

# Send live image data to perform pose landmarking.
# The results are accessible via the `result_callback` provided in
# the `PoseLandmarkerOptions` object.
# The pose landmarker must be created with the live stream mode.
landmarker.detect_async(mp_image, frame_timestamp_ms)
    

다음에 유의하세요.

• 동영상 모드 또는 라이브 스트림 모드에서 실행하는 경우 포즈 랜드마크 작업에 입력 프레임의 타임스탬프도 제공합니다.
• 이미지 또는 동영상 모델에서 실행할 때 포즈 랜드마크 도구는 입력 이미지 또는 프레임 처리를 완료할 때까지 현재 스레드를 차단합니다.
• 라이브 스트림 모드에서 실행하면 포즈 랜드마크러 작업이 즉시 반환되며 현재 스레드를 차단하지 않습니다. 입력 프레임 처리가 완료될 때마다 감지 결과와 함께 결과 리스너를 호출합니다. 포즈 랜드마크커 작업이 다른 프레임을 처리 중일 때 감지 함수가 호출되면 작업은 새 입력 프레임을 무시합니다.

이미지에서 포즈 랜드마크를 실행하는 전체 예는 코드 예를 참고하세요.

결과 처리 및 표시

포즈 랜드마크 도구는 각 감지 실행 시 poseLandmarkerResult 객체를 반환합니다. 결과 객체에는 각 포즈 랜드마크의 좌표가 포함됩니다.

다음은 이 작업의 출력 데이터 예를 보여줍니다.

PoseLandmarkerResult:
  Landmarks:
    Landmark #0:
      x            : 0.638852
      y            : 0.671197
      z            : 0.129959
      visibility   : 0.9999997615814209
      presence     : 0.9999984502792358
    Landmark #1:
      x            : 0.634599
      y            : 0.536441
      z            : -0.06984
      visibility   : 0.999909
      presence     : 0.999958
    ... (33 landmarks per pose)
  WorldLandmarks:
    Landmark #0:
      x            : 0.067485
      y            : 0.031084
      z            : 0.055223
      visibility   : 0.9999997615814209
      presence     : 0.9999984502792358
    Landmark #1:
      x            : 0.063209
      y            : -0.00382
      z            : 0.020920
      visibility   : 0.999976
      presence     : 0.999998
    ... (33 world landmarks per pose)
  SegmentationMasks:
    ... (pictured below)

출력에는 각 랜드마크의 정규화된 좌표 (Landmarks)와 세계 좌표 (WorldLandmarks)가 모두 포함됩니다.

출력에는 다음과 같은 정규화된 좌표 (Landmarks)가 포함됩니다.

• x 및 y: 이미지 너비 (x)와 높이 (y)로 0.0~1.0으로 정규화된 랜드마크 좌표입니다.

• z: 랜드마크 깊이로, 엉덩이 중간지점의 깊이가 출발지로 사용됩니다. 값이 작을수록 랜드마크가 카메라에 더 가까워집니다. z의 크기는 거의 x와 동일한 배율을 사용합니다.

• visibility: 이미지 내에 랜드마크가 표시될 가능성입니다.

출력에는 다음과 같은 세계 좌표 (WorldLandmarks)가 포함됩니다.

• x, y, z: 골반의 중간 지점을 출발지로 하는 실제 3차원 좌표(미터 단위)입니다.

• visibility: 이미지 내에 랜드마크가 표시될 가능성입니다.

다음 이미지는 작업 출력을 시각화한 것입니다.

선택사항인 세분화 마스크는 각 픽셀이 감지된 사람에게 속할 가능성을 나타냅니다. 다음 이미지는 작업 출력의 세분화 마스크입니다.

포즈 랜드마크 예 코드에서는 작업에서 반환된 결과를 표시하는 방법을 보여줍니다. 자세한 내용은 코드 예를 참고하세요.