Python 画像セグメンテーション ガイド

MediaPipe Image Segmenter タスクを使用すると、事前定義されたカテゴリに基づいて画像を領域に分割し、背景のぼかしなどの視覚効果を適用できます。次の手順では、Python 言語で Image Segmenter を使用する方法について説明します。このタスクの機能、モデル、構成オプションの詳細については、概要をご覧ください。

サンプルコード

Image Segmenter のサンプルコードには、このタスクの Python での完全な実装が含まれています。このコードは、このタスクをテストし、独自の画像セグメンテーション アプリケーションの構築を開始するのに役立ちます。ウェブブラウザのみを使用して、Image Segmenter のサンプルコードを表示、実行、編集できます。

セットアップ

このセクションでは、Image Segmenter を使用するように開発環境とコード プロジェクトを設定する主な手順について説明します。プラットフォーム バージョンの要件など、MediaPipe タスクを使用する開発環境の設定に関する一般的な情報については、Python の設定ガイドをご覧ください。この例のソースコードは GitHub で確認できます。

パッケージ

MediaPipe Image Segmenter タスクには mediapipe パッケージが必要です。必要な依存関係は、次のコマンドでインストールできます。

$ python -m pip install mediapipe

インポート

Image Segmenter タスク関数にアクセスするには、次のクラスをインポートします。

import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision

モデル

MediaPipe Image Segmenter タスクには、このタスクに対応したトレーニング済みモデルが必要です。Image Segmenter で使用可能なトレーニング済みモデルの詳細については、タスクの概要のモデルのセクションをご覧ください。

モデルを選択してダウンロードし、プロジェクト ディレクトリに保存します。

model_path = '/absolute/path/to/model.tflite'

次のように、モデル名パラメータ内にモデルのパスを指定します。

base_options = BaseOptions(model_asset_path=model_path)

タスクを作成する

MediaPipe Image Segmenter タスクは、create_from_options 関数を使用してタスクを設定します。create_from_options 関数は、処理する構成オプションの値を受け入れます。タスクの構成の詳細については、構成オプションをご覧ください。

これらのサンプルは、画像、動画ファイル、ライブ動画ストリーミングのタスクの作成方法の違いも示しています。

画像

BaseOptions = mp.tasks.BaseOptions
ImageSegmenter = mp.tasks.vision.ImageSegmenter
ImageSegmenterOptions = mp.tasks.vision.ImageSegmenterOptions
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a image segmenter instance with the image mode:
options = ImageSegmenterOptions(
    base_options=BaseOptions(model_asset_path='/path/to/model.task'),
    running_mode=VisionRunningMode.IMAGE,
    output_category_mask=True)
with ImageSegmenter.create_from_options(options) as segmenter:

動画

BaseOptions = mp.tasks.BaseOptions
ImageSegmenter = mp.tasks.vision.ImageSegmenter
ImageSegmenterOptions = mp.tasks.vision.ImageSegmenterOptions
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a image segmenter instance with the video mode:
options = ImageSegmenterOptions(
    base_options=BaseOptions(model_asset_path='/path/to/model.task'),
    running_mode=VisionRunningMode.VIDEO,
    output_category_mask=True)
with ImageSegmenter.create_from_options(options) as segmenter:

ライブ配信

BaseOptions = mp.tasks.BaseOptions
ImageSegmenter = mp.tasks.vision.ImageSegmenter
ImageSegmenterOptions = mp.tasks.vision.ImageSegmenterOptions
VisionRunningMode = mp.tasks.vision.RunningMode

# Create a image segmenter instance with the live stream mode:
def print_result(result: List[Image], output_image: Image, timestamp_ms: int):
    print('segmented masks size: {}'.format(len(result)))

options = ImageSegmenterOptions(
    base_options=BaseOptions(model_asset_path='/path/to/model.task'),
    running_mode=VisionRunningMode.VIDEO,
    output_category_mask=True)
with ImageSegmenter.create_from_options(options) as segmenter:

設定オプション

このタスクには、Python アプリケーション用の次の構成オプションがあります。

オプション名 説明 値の範囲 デフォルト値
running_mode タスクの実行モードを設定します。モードは次の 3 つです。

IMAGE: 単一画像入力のモード。

動画: 動画のデコードされたフレームのモード。

LIVE_STREAM: カメラなどからの入力データのライブ配信モード。 このモードでは、resultListener を呼び出して、結果を非同期で受信するリスナーを設定する必要があります。		 {IMAGE, VIDEO, LIVE_STREAM} IMAGE
output_category_mask True に設定すると、出力には uint8 画像としてセグメンテーション マスクが含まれます。各ピクセル値は、最も高いスコアのカテゴリ値を示します。 {True, False} False
output_confidence_masks True に設定すると、出力には浮動小数点値画像としてセグメンテーション マスクが含まれます。各浮動小数点値は、カテゴリの信頼スコア マップを表します。 {True, False} True
display_names_locale タスクのモデルのメタデータで指定されている表示名に使用するラベルの言語を設定します（利用可能な場合）。デフォルトは英語で en です。TensorFlow Lite Metadata Writer API を使用して、カスタムモデルのメタデータにローカライズされたラベルを追加できます。 言語 / 地域コード en
result_callback 画像セグメンタが LIVE_STREAM モードのときに、セグメンテーション結果を非同期で受信するように結果リスナーを設定します。実行モードが LIVE_STREAM に設定されている場合にのみ使用できます。 なし なし

データの準備

入力を画像ファイルまたは NumPy 配列として準備し、mediapipe.Image オブジェクトに変換します。入力が動画ファイルまたはウェブカメラからのライブ配信の場合は、OpenCV などの外部ライブラリを使用して、入力フレームを numpy 配列として読み込むことができます。

画像

# Load the input image from an image file.
mp_image = mp.Image.create_from_file('/path/to/image')

# Load the input image from a numpy array.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)

動画

# Use OpenCV’s VideoCapture to load the input video.
# Load the frame rate of the video using OpenCV’s CV_CAP_PROP_FPS
# You need the frame rate to calculate the timestamp for each frame.
# Loop through each frame in the video using VideoCapture#read()

# Convert the frame received from OpenCV to a MediaPipe’s Image object.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)

ライブ配信

# Use OpenCV’s VideoCapture to start capturing from the webcam.
# Create a loop to read the latest frame from the camera using VideoCapture#read()

# Convert the frame received from OpenCV to a MediaPipe’s Image object.
mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_frame_from_opencv)

Image Segmenter 用のデータの準備を示すコード例については、コード例をご覧ください。

タスクを実行する

Image Segmenter は、segment、segment_for_video、segment_async 関数を使用して推論をトリガーします。画像セグメンテーションの場合、これは入力データの前処理、セグメンテーション モデルの実行、元のモデル出力の後処理をセグメント化されたマスクに含めることを意味します。

次のコード例は、タスクモデルを使用して処理を実行する方法を示しています。

画像

# Perform image segmentation on the provided single image.
# The image segmenter must be created with the image mode.
segmented_masks = segmenter.segment(mp_image)

動画

# Perform image segmentation on the provided single image.
# The image segmenter must be created with the video mode.
segmented_masks = segmenter.segment_for_video(mp_image, frame_timestamp_ms)

ライブ配信

# Send live image data to perform image segmentation.
# The results are accessible via the `result_callback` provided in
# the `ImageSegmenterOptions` object.
# The image segmenter must be created with the live stream mode.
segmenter.segment_async(mp_image, frame_timestamp_ms)

次の点にご注意ください。

  • 動画モードまたはライブ配信モードで実行する場合は、Image Segmenter タスクに入力フレームのタイムスタンプも指定する必要があります。
  • 画像モデルまたは動画モデルで実行する場合、Image Segmenter タスクは、入力画像またはフレームの処理が完了するまで現在のスレッドをブロックします。

Image Segmenter 推論の実行の詳細な例については、コードサンプルをご覧ください。

結果を処理して表示する

Image Segmenter は、Image データのリストを出力します。output_type が CATEGORY_MASK の場合、出力は、uint8 画像として単一のセグメント化されたマスクを含むリストです。ピクセルは、入力画像の認識されたカテゴリ インデックスを示します。output_type が CONFIDENCE_MASK の場合、出力はカテゴリ番号のサイズのベクトルです。各セグメンテーション マスクは、カテゴリに属するピクセルの信頼スコアを表す [0,1] の範囲内の浮動小数点画像です。

以降のセクションでは、このタスクの出力データの例を示します。

カテゴリの信頼度

次の画像は、カテゴリ信頼度マスクのタスク出力の可視化を示しています。信頼度マスクの出力には、[0, 1] の間の浮動小数点値が含まれます。

馬に乗る 2 人の女の子と、馬の横を歩く 1 人の女の子 前の写真をもとに、女の子と馬の輪郭を描いた画像マスク。画像の左半分の輪郭はキャプチャされているが、右半分はキャプチャされていない

元の画像とカテゴリ信頼度マスクの出力。Pascal VOC 2012 データセットのソース画像。

カテゴリ値

次の画像は、カテゴリ値マスクのタスク出力の可視化を示しています。カテゴリ マスクの範囲は [0, 255] で、各ピクセル値はモデル出力の勝者カテゴリ インデックスを表します。勝ちのカテゴリ インデックスは、モデルが認識できるカテゴリの中で最も高いスコアです。

馬に乗る 2 人の女の子と、馬の横を歩く 1 人の女の子 前の画像の少女と馬の輪郭を示す画像マスク。3 人の女の子と馬の形が正確にマスクされている

元の画像とカテゴリ マスクの出力。Pascal VOC 2012 データセットのソース画像。