MediaPipe 손 랜드마크 작업자 작업을 사용하면 이미지에서 손의 랜드마크를 감지할 수 있습니다. 다음 안내에서는 Python으로 Hand Landscapeer를 사용하는 방법을 보여줍니다. 이 안내에 설명된 코드 샘플은 GitHub에서 제공됩니다.
이 태스크의 기능, 모델, 구성 옵션에 대한 자세한 내용은 개요를 참조하세요.
코드 예시
Hand Landscapeer의 예시 코드는 이러한 작업을 Python으로 완전히 구현한 예를 참고할 수 있도록 제공합니다. 이 코드는 이 작업을 테스트하고 자체 손 랜드마크 감지기 빌드를 시작하는 데 도움이 됩니다. 웹브라우저만 사용하여 Hand lander 예시 코드를 보고 실행하고 수정할 수 있습니다.
설정
이 섹션에서는 개발 환경 및 코드 프로젝트를 설정하여 Hand 글머리 기호를 사용하기 위한 주요 단계를 설명합니다. 플랫폼 버전 요구사항을 포함하여 MediaPipe 태스크를 사용하기 위한 개발 환경 설정에 관한 일반적인 정보는 Python 설정 가이드를 참조하세요.
패키지
MediaPipe 손 랜드마크 작업자 작업에는 미디어파이프 PyPI 패키지가 필요합니다. 다음을 사용하여 이러한 종속 항목을 설치하고 가져올 수 있습니다.
$ python -m pip install mediapipe
가져오기
손 랜드마크 작업자 작업 기능에 액세스하려면 다음 클래스를 가져오세요.
import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision
모델
MediaPipe 손 랜드마크 작업자 작업에는 이 작업과 호환되는 학습된 모델이 필요합니다. Hand Landscapeer에 사용 가능한 학습된 모델에 대한 자세한 내용은 작업 개요 모델 섹션을 참조하세요.
모델을 선택 및 다운로드한 다음 로컬 디렉터리에 저장합니다.
model_path = '/absolute/path/to/gesture_recognizer.task'
BaseOptions
객체 model_asset_path
매개변수를 사용하여 사용할 모델의 경로를 지정합니다. 코드 예는 다음 섹션을 참고하세요.
할 일 만들기
MediaPipe 손 랜드마크 작업자 작업에서는 create_from_options
함수를 사용하여 작업을 설정합니다. create_from_options
함수는 처리할 구성 옵션의 값을 허용합니다. 구성 옵션에 대한 자세한 내용은 구성 옵션을 참조하세요.
다음 코드는 이 작업을 빌드하고 구성하는 방법을 보여줍니다.
또한 이 샘플은 이미지, 동영상 파일, 라이브 스트림에 대한 작업 구성의 변형을 보여줍니다.
이미지
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions HandLandmarker = mp.tasks.vision.HandLandmarker HandLandmarkerOptions = mp.tasks.vision.HandLandmarkerOptions VisionRunningMode = mp.tasks.vision.RunningMode # Create a hand landmarker instance with the image mode: options = HandLandmarkerOptions( base_options=BaseOptions(model_asset_path='/path/to/model.task'), running_mode=VisionRunningMode.IMAGE) with HandLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
동영상
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions HandLandmarker = mp.tasks.vision.HandLandmarker HandLandmarkerOptions = mp.tasks.vision.HandLandmarkerOptions VisionRunningMode = mp.tasks.vision.RunningMode # Create a hand landmarker instance with the video mode: options = HandLandmarkerOptions( base_options=BaseOptions(model_asset_path='/path/to/model.task'), running_mode=VisionRunningMode.VIDEO) with HandLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
라이브 스트림
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions HandLandmarker = mp.tasks.vision.HandLandmarker HandLandmarkerOptions = mp.tasks.vision.HandLandmarkerOptions HandLandmarkerResult = mp.tasks.vision.HandLandmarkerResult VisionRunningMode = mp.tasks.vision.RunningMode # Create a hand landmarker instance with the live stream mode: def print_result(result: HandLandmarkerResult, output_image: mp.Image, timestamp_ms: int): print('hand landmarker result: {}'.format(result)) options = HandLandmarkerOptions( base_options=BaseOptions(model_asset_path='/path/to/model.task'), running_mode=VisionRunningMode.LIVE_STREAM, result_callback=print_result) with HandLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
이미지에 사용할 손 랜드마크 도구를 만드는 전체 예는 코드 예를 참고하세요.
구성 옵션
이 태스크에는 다음과 같은 Python 애플리케이션 구성 옵션이 있습니다.
옵션 이름 | 설명 | 값 범위 | 기본값 |
---|---|---|---|
running_mode |
작업의 실행 모드를 설정합니다. 모드는 세 가지가 있습니다. IMAGE: 단일 이미지 입력 모드입니다. VIDEO: 동영상의 디코딩된 프레임에 대한 모드입니다. LIVE_STREAM: 카메라에서 전송하는 것과 같은 입력 데이터의 실시간 스트림 모드입니다. 이 모드에서는 resultListener를 호출하여 비동기식으로 결과를 수신하도록 리스너를 설정해야 합니다. |
{IMAGE, VIDEO, LIVE_STREAM } |
IMAGE |
num_hands |
손 랜드마크 감지기에서 감지한 최대 손 수입니다. | Any integer > 0 |
1 |
min_hand_detection_confidence |
손바닥 감지 모델에서 성공적인 것으로 간주하기 위한 손 감지의 최소 신뢰도 점수입니다. | 0.0 - 1.0 |
0.5 |
min_hand_presence_confidence |
손 랜드마크 감지 모델에서 손 존재 점수의 최소 신뢰도 점수입니다. 동영상 모드와 실시간 스트림 모드에서 손 랜드마크 모델의 손 존재 신뢰도 점수가 이 임계값보다 낮으면 손 랜드마크 도구는 손바닥 감지 모델을 트리거합니다. 그러지 않으면 가벼운 손 추적 알고리즘이 후속 랜드마크 감지를 위해 손의 위치를 결정합니다. | 0.0 - 1.0 |
0.5 |
min_tracking_confidence |
손바닥 추적을 성공으로 간주하기 위한 최소 신뢰도 점수입니다. 이는 현재 프레임과 마지막 프레임의 침 사이의 경계 상자 IoU 임곗값입니다. 손 랜드마크er의 동영상 모드 및 스트림 모드에서는 추적에 실패하면 손 랜드마크 도구가 손 감지를 트리거합니다. 그러지 않으면 손 감지를 건너뜁니다. | 0.0 - 1.0 |
0.5 |
result_callback |
손 랜드마크 기계가 라이브 스트림 모드일 때 감지 결과를 비동기식으로 수신하도록 결과 리스너를 설정합니다.
실행 모드가 LIVE_STREAM 로 설정된 경우에만 적용됩니다. |
해당 사항 없음 | 해당 사항 없음 |
데이터 준비
입력을 이미지 파일 또는 Numpy 배열로 준비한 다음 mediapipe.Image
객체로 변환합니다. 입력이 동영상 파일이나 웹캠의 실시간 스트림인 경우 OpenCV와 같은 외부 라이브러리를 사용하여 입력 프레임을 Numpy 배열로 로드할 수 있습니다.
이미지
import mediapipe as mp # Load the input image from an image file. mp_image = mp.Image.create_from_file('/path/to/image') # Load the input image from a numpy array. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)
동영상
import mediapipe as mp # Use OpenCV’s VideoCapture to load the input video. # Load the frame rate of the video using OpenCV’s CV_CAP_PROP_FPS # You’ll need it to calculate the timestamp for each frame. # Loop through each frame in the video using VideoCapture#read() # Convert the frame received from OpenCV to a MediaPipe’s Image object. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
라이브 스트림
import mediapipe as mp # Use OpenCV’s VideoCapture to start capturing from the webcam. # Create a loop to read the latest frame from the camera using VideoCapture#read() # Convert the frame received from OpenCV to a MediaPipe’s Image object. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
작업 실행
손 랜드마크 도구는 detect_for_video 및 detect_async 함수를 사용하여 추론을 트리거합니다. 손 랜드마크 감지의 경우 여기에는 입력 데이터 사전 처리, 이미지에서 손 감지, 손 랜드마크 감지가 포함됩니다.
다음 코드는 작업 모델을 사용하여 처리를 실행하는 방법을 보여줍니다.
이미지
# Perform hand landmarks detection on the provided single image. # The hand landmarker must be created with the image mode. hand_landmarker_result = landmarker.detect(mp_image)
동영상
# Perform hand landmarks detection on the provided single image. # The hand landmarker must be created with the video mode. hand_landmarker_result = landmarker.detect_for_video(mp_image, frame_timestamp_ms)
라이브 스트림
# Send live image data to perform hand landmarks detection. # The results are accessible via the `result_callback` provided in # the `HandLandmarkerOptions` object. # The hand landmarker must be created with the live stream mode. landmarker.detect_async(mp_image, frame_timestamp_ms)
다음에 유의하세요.
- 동영상 모드 또는 실시간 스트림 모드에서 실행하는 경우 손 랜드마크 작업에 입력 프레임의 타임스탬프도 제공해야 합니다.
- 이미지 또는 동영상 모델에서 실행되는 경우 손 랜드마크 도구 작업은 입력 이미지 또는 프레임 처리를 완료할 때까지 현재 스레드를 차단합니다.
- 실시간 스트림 모드에서 실행 중인 경우 Hand Landscapeer 작업은 현재 스레드를 차단하지 않고 즉시 반환됩니다. 입력 프레임 처리가 완료될 때마다 감지 결과와 함께 결과 리스너를 호출합니다. 손 랜드마크 작업자 작업이 다른 프레임을 처리 중일 때 감지 함수가 호출되면 작업은 새 입력 프레임을 무시합니다.
이미지에서 핸드 랜드마크 도구를 실행하는 전체 예는 코드 예시를 참고하세요.
결과 처리 및 표시
손 랜드마크러는 각 감지 실행 시 손 랜드마크 결과 객체를 생성합니다. 결과 객체에는 이미지 좌표의 손 랜드마크, 세계 좌표의 손 랜드마크, 감지된 손의 잘 쓰는 손(왼쪽/오른손)이 포함됩니다.
다음은 이 작업의 출력 데이터 예를 보여줍니다.
HandLandmarkerResult
출력에는 세 가지 구성요소가 포함됩니다. 각 구성요소는 배열이며, 각 요소에는 감지된 손 하나에 대해 다음과 같은 결과가 포함됩니다.
잘 쓰는 손
잘 쓰는 손은 감지된 손이 왼손인지 오른손인지를 나타냅니다.
명소
21개의 손 랜드마크가 있으며 각각
x
,y
,z
좌표로 구성됩니다.x
및y
좌표는 이미지 너비와 높이에 따라 각각 [0.0, 1.0] 으로 정규화됩니다.z
좌표는 랜드마크의 깊이를 나타내며 손목의 깊이가 원점입니다. 값이 작을수록 랜드마크가 카메라에 더 가까워집니다.z
의 크기는 거의x
와 동일한 배율을 사용합니다.세계의 명소
21개의 손 모양 랜드마크도 세계 좌표로 표시됩니다. 각 랜드마크는
x
,y
,z
로 구성되며, 실제 3D 좌표를 손의 기하학적 중심에 원점이 있는 미터 단위로 나타냅니다.
HandLandmarkerResult:
Handedness:
Categories #0:
index : 0
score : 0.98396
categoryName : Left
Landmarks:
Landmark #0:
x : 0.638852
y : 0.671197
z : -3.41E-7
Landmark #1:
x : 0.634599
y : 0.536441
z : -0.06984
... (21 landmarks for a hand)
WorldLandmarks:
Landmark #0:
x : 0.067485
y : 0.031084
z : 0.055223
Landmark #1:
x : 0.063209
y : -0.00382
z : 0.020920
... (21 world landmarks for a hand)
다음 이미지는 작업 출력을 시각화한 것입니다.
손 랜드마크 생성기 예시 코드는 작업에서 반환된 결과를 표시하는 방법을 보여줍니다. 자세한 내용은 코드 예시를 참고하세요.