La tâche MediaPipe Pose Marker vous permet de détecter les points de repère de corps humains dans une image ou une vidéo. Vous pouvez utiliser cette tâche pour identifier des emplacements clés du corps, analyser la posture et classer les mouvements. Cette tâche utilise des modèles de machine learning (ML) fonctionnant avec des images ou des vidéos uniques. La tâche génère des points de repère de pose du corps sous forme de coordonnées d'image et en coordonnées mondiales en 3D.
L'exemple de code décrit dans ces instructions est disponible sur GitHub. Pour en savoir plus sur les fonctionnalités, les modèles et les options de configuration de cette tâche, consultez la présentation.
Exemple de code
L'exemple de code de Pose Markerer fournit une implémentation complète de cette tâche en Python à titre de référence. Ce code vous aide à tester cette tâche et à créer votre propre point de repère de pose. Vous pouvez afficher, exécuter et modifier l'exemple de code Pose Marker à l'aide de votre navigateur Web.
Si vous implémentez le composant Pose Marker pour Raspberry Pi, consultez l'exemple d'application pour Raspberry Pi.
Préparation
Cette section décrit les étapes clés de la configuration de votre environnement de développement et de vos projets de code spécifiquement pour l'utilisation de Pose Marker. Pour obtenir des informations générales sur la configuration de votre environnement de développement pour l'utilisation des tâches MediaPipe, y compris sur les exigences de version de la plate-forme, consultez le guide de configuration pour Python.
Colis
La tâche MediaPipe Pose Marker nécessite le package PyPI médiapipe. Vous pouvez installer et importer ces dépendances avec la commande suivante:
$ python -m pip install mediapipe
Importations
Importez les classes suivantes pour accéder aux fonctions de la tâche "Pose Marker" :
import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision
Modèle
La tâche MediaPipe Pose Marker nécessite un modèle entraîné compatible avec cette tâche. Pour en savoir plus sur les modèles entraînés disponibles pour le repère de posture, consultez la section Modèles de la présentation des tâches.
Sélectionnez et téléchargez le modèle, puis stockez-le dans un répertoire local:
model_path = '/absolute/path/to/pose_landmarker.task'
Utilisez le paramètre model_asset_path
de l'objet BaseOptions
pour spécifier le chemin d'accès du modèle à utiliser. Pour obtenir un exemple de code, consultez la section suivante.
Créer la tâche
La tâche MediaPipe Pose Markerer utilise la fonction create_from_options
pour configurer la tâche. La fonction create_from_options
accepte des valeurs pour les options de configuration à gérer. Pour en savoir plus, consultez la section Options de configuration.
Le code suivant montre comment créer et configurer cette tâche.
Ces exemples montrent également les variantes de construction des tâches pour les images, les fichiers vidéo et le flux en direct.
Images
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions PoseLandmarker = mp.tasks.vision.PoseLandmarker PoseLandmarkerOptions = mp.tasks.vision.PoseLandmarkerOptions VisionRunningMode = mp.tasks.vision.RunningMode options = PoseLandmarkerOptions( base_options=BaseOptions(model_asset_path=model_path), running_mode=VisionRunningMode.IMAGE) with PoseLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
Vidéo
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions PoseLandmarker = mp.tasks.vision.PoseLandmarker PoseLandmarkerOptions = mp.tasks.vision.PoseLandmarkerOptions VisionRunningMode = mp.tasks.vision.RunningMode # Create a pose landmarker instance with the video mode: options = PoseLandmarkerOptions( base_options=BaseOptions(model_asset_path=model_path), running_mode=VisionRunningMode.VIDEO) with PoseLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
Diffusion en direct
import mediapipe as mp BaseOptions = mp.tasks.BaseOptions PoseLandmarker = mp.tasks.vision.PoseLandmarker PoseLandmarkerOptions = mp.tasks.vision.PoseLandmarkerOptions PoseLandmarkerResult = mp.tasks.vision.PoseLandmarkerResult VisionRunningMode = mp.tasks.vision.RunningMode # Create a pose landmarker instance with the live stream mode: def print_result(result: PoseLandmarkerResult, output_image: mp.Image, timestamp_ms: int): print('pose landmarker result: {}'.format(result)) options = PoseLandmarkerOptions( base_options=BaseOptions(model_asset_path=model_path), running_mode=VisionRunningMode.LIVE_STREAM, result_callback=print_result) with PoseLandmarker.create_from_options(options) as landmarker: # The landmarker is initialized. Use it here. # ...
Pour obtenir un exemple complet de création d'un repère de posture à utiliser avec une image, consultez l'exemple de code.
Options de configuration
Cette tâche dispose des options de configuration suivantes pour les applications Python:
Nom de l'option | Description | Plage de valeurs | Valeur par défaut |
---|---|---|---|
running_mode |
Définit le mode d'exécution de la tâche. Il existe trois modes: IMAGE: mode pour les entrées d'une seule image. VIDEO: mode pour les images décodées d'une vidéo. LIVE_STREAM: mode de diffusion en direct de données d'entrée, issues par exemple d'une caméra. Dans ce mode, resultListener doit être appelé pour configurer un écouteur afin de recevoir les résultats de manière asynchrone. |
{IMAGE, VIDEO, LIVE_STREAM } |
IMAGE |
num_poses |
Nombre maximal de postures pouvant être détectées par le repère de posture. | Integer > 0 |
1 |
min_pose_detection_confidence |
Score de confiance minimal pour que la détection de poses soit considérée comme réussie. | Float [0.0,1.0] |
0.5 |
min_pose_presence_confidence |
Score de confiance minimal du score de présence de posture dans la détection des points de repère de pose. | Float [0.0,1.0] |
0.5 |
min_tracking_confidence |
Score de confiance minimal pour que le suivi des postures soit considéré comme une réussite. | Float [0.0,1.0] |
0.5 |
output_segmentation_masks |
Indique si le repère de posture génère un masque de segmentation pour la posture détectée. | Boolean |
False |
result_callback |
Définit l'écouteur de résultats de sorte qu'il reçoive les résultats du repère de manière asynchrone lorsque la pose est en mode de diffusion en direct.
Ne peut être utilisé que lorsque le mode En cours d'exécution est défini sur LIVE_STREAM |
ResultListener |
N/A |
Préparation des données
Préparez votre entrée en tant que fichier image ou tableau Numpy, puis convertissez-la en objet mediapipe.Image
. Si votre entrée est un fichier vidéo ou un flux vidéo en direct à partir d'une webcam, vous pouvez utiliser une bibliothèque externe telle que OpenCV pour charger vos images d'entrée sous forme de tableaux Numpy.
Images
import mediapipe as mp # Load the input image from an image file. mp_image = mp.Image.create_from_file('/path/to/image') # Load the input image from a numpy array. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)
Vidéo
import mediapipe as mp # Use OpenCV’s VideoCapture to load the input video. # Load the frame rate of the video using OpenCV’s CV_CAP_PROP_FPS # You’ll need it to calculate the timestamp for each frame. # Loop through each frame in the video using VideoCapture#read() # Convert the frame received from OpenCV to a MediaPipe’s Image object. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
Diffusion en direct
import mediapipe as mp # Use OpenCV’s VideoCapture to start capturing from the webcam. # Create a loop to read the latest frame from the camera using VideoCapture#read() # Convert the frame received from OpenCV to a MediaPipe’s Image object. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)
Exécuter la tâche
Le repère de posture utilise les fonctions detect
, detect_for_video
et detect_async
pour déclencher des inférences. Pour le point de repère de pose, il s'agit de prétraiter les données d'entrée et de détecter les postures dans l'image.
Le code suivant montre comment exécuter le traitement avec le modèle de tâche.
Images
# Perform pose landmarking on the provided single image. # The pose landmarker must be created with the image mode. pose_landmarker_result = landmarker.detect(mp_image)
Vidéo
# Perform pose landmarking on the provided single image. # The pose landmarker must be created with the video mode. pose_landmarker_result = landmarker.detect_for_video(mp_image, frame_timestamp_ms)
Diffusion en direct
# Send live image data to perform pose landmarking. # The results are accessible via the `result_callback` provided in # the `PoseLandmarkerOptions` object. # The pose landmarker must be created with the live stream mode. landmarker.detect_async(mp_image, frame_timestamp_ms)
Veuillez noter les points suivants :
- Lors de l'exécution en mode vidéo ou en mode de diffusion en direct, fournissez également à la tâche "Pose Marker" l'horodatage de l'image d'entrée.
- Lors de l'exécution dans l'image ou le modèle vidéo, la tâche "Pose référenceer" bloque le thread actuel jusqu'à ce qu'il ait fini de traiter l'image ou le cadre d'entrée.
- Lors de son exécution en mode de diffusion en direct, la tâche "Pose Marker" est renvoyée immédiatement et ne bloque pas le thread actuel. Il appelle l'écouteur de résultat avec le résultat de la détection chaque fois qu'il termine le traitement d'une trame d'entrée. Si la fonction de détection est appelée lorsque la tâche du repère de posture est occupée à traiter un autre frame, la tâche ignore le nouveau frame d'entrée.
Pour obtenir un exemple complet d'exécution d'un repère de posture sur une image, consultez l'exemple de code.
Gérer et afficher les résultats
L'outil de repère de position renvoie un objet poseLandmarkerResult
pour chaque exécution de détection. L'objet de résultat contient les coordonnées de chaque point de repère de la pose.
Voici un exemple des données de sortie de cette tâche:
PoseLandmarkerResult:
Landmarks:
Landmark #0:
x : 0.638852
y : 0.671197
z : 0.129959
visibility : 0.9999997615814209
presence : 0.9999984502792358
Landmark #1:
x : 0.634599
y : 0.536441
z : -0.06984
visibility : 0.999909
presence : 0.999958
... (33 landmarks per pose)
WorldLandmarks:
Landmark #0:
x : 0.067485
y : 0.031084
z : 0.055223
visibility : 0.9999997615814209
presence : 0.9999984502792358
Landmark #1:
x : 0.063209
y : -0.00382
z : 0.020920
visibility : 0.999976
presence : 0.999998
... (33 world landmarks per pose)
SegmentationMasks:
... (pictured below)
La sortie contient à la fois des coordonnées normalisées (Landmarks
) et des coordonnées mondiales (WorldLandmarks
) pour chaque point de repère.
La sortie contient les coordonnées normalisées suivantes (Landmarks
):
x
ety
: coordonnées du point de repère normalisées entre 0,0 et 1,0 en fonction de la largeur (x
) et de la hauteur (y
) de l'image.z
: profondeur du point de repère, avec la profondeur au milieu des hanches comme point de départ. Plus la valeur est faible, plus le point de repère est proche de la caméra. La magnitude de z est à peu près identique à celle dex
.visibility
: probabilité que le point de repère soit visible dans l'image.
Le résultat contient les coordonnées mondiales suivantes (WorldLandmarks
):
x
,y
etz
: coordonnées tridimensionnelles réelles en mètres, avec le point médian des hanches comme point de départ.visibility
: probabilité que le point de repère soit visible dans l'image.
L'image suivante montre une visualisation du résultat de la tâche:
Le masque de segmentation facultatif représente la probabilité que chaque pixel appartienne à une personne détectée. L'image suivante montre un masque de segmentation du résultat de la tâche:
L'exemple de code Pose Markerer montre comment afficher les résultats renvoyés par la tâche. Pour en savoir plus, consultez l'exemple de code.