網頁專用的互動式圖片區隔指南

MediaPipe 互動式圖片區隔工作會擷取圖片中的位置,預估該位置的物件邊界,然後以圖片資料的形式傳回物件的區隔。以下操作說明將示範如何使用節點和網頁應用程式適用的互動式圖片區隔工具。如要進一步瞭解此工作的功能、模型和設定選項,請參閱總覽

程式碼範例

「互動式圖片區隔」的範例程式碼提供此工作在 JavaScript 中的完整實作,供您參考。這段程式碼可協助您測試這項工作,並開始建構自己的互動式圖片區隔應用程式。您可以使用網路瀏覽器查看、執行及編輯互動式圖片區隔範例程式碼。您也可以前往 GitHub 查看本範例的程式碼。

設定

本節說明設定開發環境及專門為使用互動式映像檔區隔程式的程式碼專案。如需瞭解如何設定開發環境以使用 MediaPipe 工作 (包括平台版本需求),請參閱「網頁版設定指南」。

JavaScript 套件

您可以透過 MediaPipe @mediapipe/tasks-vision NPM 套件取得互動式圖片區隔器程式碼。您可以從平台設定指南中的連結找到並下載這些程式庫。

您可以使用下列指令,安裝具有以下程式碼的必要套件,以執行本機暫存:

npm install --save @mediapipe/tasks-vision

如要透過內容傳遞網路 (CDN) 服務匯入工作程式碼,請在 HTML 檔案的標記中加入下列程式碼:

<head>
  <script src="https://cdn.jsdelivr.net/npm/@mediapipe/tasks-vision/vision_bundle.js"
    crossorigin="anonymous"></script>
</head>

型號

MediaPipe 互動式圖片區隔工作需要與這項工作相容的已訓練模型。如要進一步瞭解互動式圖片區隔的可用已訓練模型,請參閱「模型」一節

選取並下載模型,然後將其儲存在專案目錄中:

<dev-project-root>/app/shared/models/

建立工作

使用其中一個互動式圖片區段 createFrom...() 函式,準備執行推論的工作。使用 createFromModelPath() 函式搭配已訓練模型檔案的相對或絕對路徑。如果模型已載入記憶體,您可以使用 createFromModelBuffer() 方法。

以下程式碼範例示範如何使用 createFromOptions() 函式設定工作。createFromOptions 函式可讓您使用設定選項來自訂互動式圖片區隔。如要進一步瞭解設定選項,請參閱「設定選項」一文。

以下程式碼示範如何使用自訂選項建構及設定工作:

async function createSegmenter() {
  const vision = await FilesetResolver.forVisionTasks(
    "https://cdn.jsdelivr.net/npm/@mediapipe/tasks-vision@latest/wasm"
  );

  interactiveSegmenter = await InteractiveSegmenter.createFromOptions(vision, {
    baseOptions: {
      modelAssetPath:
        "https://storage.googleapis.com/mediapipe-tasks/interactive_segmenter/ptm_512_hdt_ptm_woid.tflite"
    },
  });
}
createSegmenter();

設定選項

這項工作的網頁應用程式設定選項如下:

選項名稱 說明 值範圍 預設值
outputCategoryMask 如果設為 True,輸出結果會包含 uint8 圖片的區隔遮罩,其中每個像素值都會指出該像素是否屬於所需區域的物件。 {True, False} False
outputConfidenceMasks 如果設為 True,輸出結果會包含以浮點值圖片形式的區隔遮罩,其中每個浮點值都代表像素屬於相關位置物件的信心。 {True, False} True
displayNamesLocale 設定標籤語言,用於工作模型中繼資料內的顯示名稱 (如有)。英文的預設值是 en。您可以使用 TensorFlow Lite Metadata Writer API,在自訂模型的中繼資料中加入本地化標籤。語言代碼 en

準備資料

互動式圖片區隔可使用主機瀏覽器支援的任何格式,區隔圖片中的物件。這項工作也會處理資料輸入預先處理,包括調整大小、旋轉和值正規化。

對互動式圖片區隔 segment()segmentForVideo() 方法的呼叫會同步執行,並封鎖使用者介面執行緒。如果在裝置相機的影片影格中區隔物件,每個區隔工作都會封鎖主執行緒。如要防止這種情況發生,您可以實作網路工作站,使其在其他執行緒上執行 segment()segmentForVideo()

執行工作

互動式圖片區隔會使用 segment() 方法觸發推論。互動式圖片區隔會以圖片資料的形式,將偵測到的片段傳回至您在執行工作推論時設定的回呼函式。

下列程式碼示範如何使用工作模型執行處理作業:

const image = document.getElementById("image") as HTMLImageElement;
interactiveSegmenter.segment(
  image,
  {
    keypoint: {
      x: event.offsetX / event.target.width,
      y: event.offsetY / event.target.height
    }
  },
  callback);

如要進一步瞭解如何執行互動式圖片區隔工作,請參閱程式碼範例

處理並顯示結果

執行推論時,互動式圖片區隔工作會將圖片片段資料傳回回呼函式。輸出的內容是圖片資料,並可能包含類別遮罩和/或可信度遮罩,具體取決於您在「設定」工作時設定的內容。

以下各節進一步說明這項工作的輸出資料:

類別遮罩

下圖以視覺化方式呈現類別值遮罩的工作輸出內容,並指出搜尋點區域。每個像素都是 uint8 值,表示像素是否屬於所需區域的物件。第二張圖片上的黑白圓圈代表已選取的興趣區域。

原始圖片和類別遮罩輸出內容。Pascal VOC 2012 資料集的來源映像檔。

信心口罩

可信度遮罩的輸出內容包含每個圖片輸入管道 [0, 1] 之間的浮點值。值越大,代表圖片像素屬於所需區域中的物件,可信度越高。

互動式圖片區隔範例程式碼示範如何顯示工作傳回的分類結果,詳情請參閱程式碼範例