งานตัวแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟของ MediaPipe จะรับตำแหน่งในรูปภาพ ประมาณขอบเขตของออบเจ็กต์ในตำแหน่งนั้น และแสดงผลการแบ่งกลุ่มสำหรับออบเจ็กต์เป็นข้อมูลรูปภาพ วิธีการเหล่านี้แสดงวิธีใช้เครื่องมือแบ่งส่วนรูปภาพแบบอินเทอร์แอกทีฟกับภาษา Python ดูข้อมูลเพิ่มเติมเกี่ยวกับความสามารถ รูปแบบ และตัวเลือกการกําหนดค่าของงานนี้ได้ที่ภาพรวม
ตัวอย่างโค้ด
โค้ดตัวอย่างสำหรับเครื่องมือแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟแสดงการใช้งานที่สมบูรณ์ของงานนี้ใน Python สำหรับใช้อ้างอิง โค้ดนี้จะช่วยคุณทดสอบงานนี้และเริ่มต้นสร้างแอปพลิเคชันการแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟของคุณเอง คุณสามารถดู เรียกใช้ และแก้ไขโค้ดตัวอย่างของเครื่องมือแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟได้โดยใช้เว็บเบราว์เซอร์เท่านั้น
ตั้งค่า
ส่วนนี้จะอธิบายขั้นตอนสําคัญในการตั้งค่าสภาพแวดล้อมการพัฒนาและโปรเจ็กต์โค้ดเพื่อใช้เครื่องมือแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟโดยเฉพาะ ดูข้อมูลทั่วไปเกี่ยวกับการตั้งค่าสภาพแวดล้อมการพัฒนาซอฟต์แวร์เพื่อใช้งาน MediaPipe รวมถึงข้อกำหนดเวอร์ชันแพลตฟอร์มได้ที่คู่มือการตั้งค่าสำหรับ Python คุณดูซอร์สโค้ดของตัวอย่างนี้ได้ใน GitHub
แพ็กเกจ
งาน MediaPipe Interactive Image Segmenter ต้องใช้แพ็กเกจ mediapipe
คุณติดตั้งข้อกําหนดเบื้องต้นที่จําเป็นได้ด้วยคําสั่งต่อไปนี้
$ python -m pip install mediapipe
การนำเข้า
นําเข้าคลาสต่อไปนี้เพื่อเข้าถึงฟังก์ชันงานของเครื่องมือแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟ
import mediapipe as mp
from mediapipe.tasks import python
from mediapipe.tasks.python import vision
รุ่น
งานตัวแบ่งส่วนรูปภาพแบบอินเทอร์แอกทีฟของ MediaPipe ต้องใช้โมเดลที่ผ่านการฝึกซึ่งเข้ากันได้กับงานนี้ ดูข้อมูลเพิ่มเติมเกี่ยวกับโมเดลที่ผ่านการฝึกอบรมแล้วสําหรับเครื่องมือแยกส่วนรูปภาพแบบอินเทอร์แอกทีฟได้ที่ส่วนโมเดลในภาพรวมของงาน
เลือกและดาวน์โหลดโมเดล จากนั้นจัดเก็บไว้ในไดเรกทอรีโปรเจ็กต์
model_path = '/absolute/path/to/model.tflite'
ระบุเส้นทางของโมเดลภายในพารามิเตอร์ model_asset_path
ดังที่แสดงด้านล่าง
base_options = BaseOptions(model_asset_path=model_path)
สร้างงาน
งาน MediaPipe Interactive Image Segmenter ใช้ฟังก์ชัน create_from_options
เพื่อตั้งค่างาน ฟังก์ชัน create_from_options
ยอมรับค่าสำหรับตัวเลือกการกําหนดค่าที่จะจัดการ ดูข้อมูลเพิ่มเติมเกี่ยวกับตัวเลือกการกำหนดค่าได้ที่ตัวเลือกการกำหนดค่า
โค้ดต่อไปนี้แสดงวิธีสร้างและกําหนดค่างานนี้
BaseOptions = mp.tasks.BaseOptions InteractiveSegmenter = mp.tasks.vision.InteractiveSegmenter InteractiveSegmenterOptions = mp.tasks.vision.InteractiveSegmenterOptions VisionRunningMode = mp.tasks.vision.RunningMode # Create a image segmenter instance with the image mode: options = InteractiveSegmenterOptions( base_options=BaseOptions(model_asset_path='/path/to/model.task'), running_mode=VisionRunningMode.IMAGE, output_type=InteractiveSegmenterOptions.OutputType.CATEGORY_MASK) with InteractiveSegmenter.create_from_options(options) as segmenter: # segmenter is initialized and ready to use
ตัวเลือกการกำหนดค่า
งานนี้มีตัวเลือกการกำหนดค่าต่อไปนี้สำหรับแอปพลิเคชัน Python
ชื่อตัวเลือก | คำอธิบาย | ช่วงของค่า | ค่าเริ่มต้น |
---|---|---|---|
output_category_mask |
หากตั้งค่าเป็น True เอาต์พุตจะมีมาสก์การแบ่งกลุ่มเป็นรูปภาพ uint8 โดยค่าพิกเซลแต่ละค่าจะระบุว่าพิกเซลนั้นเป็นส่วนหนึ่งของวัตถุที่อยู่ในพื้นที่สนใจหรือไม่ |
{True, False } |
False |
output_confidence_masks |
หากตั้งค่าเป็น True เอาต์พุตจะมีมาสก์การแบ่งเป็นส่วนๆ เป็นรูปภาพค่าลอยตัว โดยที่ค่าลอยตัวแต่ละค่าแสดงถึงระดับความเชื่อมั่นว่าพิกเซลเป็นส่วนหนึ่งของวัตถุที่อยู่ในพื้นที่สนใจ |
{True, False } |
True |
display_names_locale |
ตั้งค่าภาษาของป้ายกำกับที่จะใช้สำหรับชื่อที่แสดงซึ่งระบุไว้ในข้อมูลเมตาของโมเดลของงาน (หากมี) ค่าเริ่มต้นคือ en สำหรับภาษาอังกฤษ คุณเพิ่มป้ายกำกับที่แปลแล้วลงในข้อมูลเมตาของโมเดลที่กำหนดเองได้โดยใช้ TensorFlow Lite Metadata Writer API
| รหัสภาษา | en |
เตรียมข้อมูล
เตรียมอินพุตเป็นไฟล์รูปภาพหรืออาร์เรย์ NumPy จากนั้นแปลงเป็นออบเจ็กต์ mediapipe.Image
# Load the input image from an image file. mp_image = mp.Image.create_from_file('/path/to/image') # Load the input image from a numpy array. mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=numpy_image)
ดูตัวอย่างโค้ดที่แสดงการเตรียมข้อมูลสําหรับเครื่องมือแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟได้ที่ตัวอย่างโค้ด
เรียกใช้งาน
ตัวแบ่งส่วนรูปภาพแบบอินเทอร์แอกทีฟใช้ฟังก์ชัน segment
เพื่อทริกเกอร์การอนุมาน สําหรับการแบ่งกลุ่มรูปภาพ ขั้นตอนนี้รวมถึงการเตรียมข้อมูลอินพุต เรียกใช้โมเดลการแบ่งกลุ่ม และประมวลผลผลลัพธ์โมเดลดิบเป็นหน้ากากที่แบ่งกลุ่ม
ตัวอย่างโค้ดต่อไปนี้แสดงวิธีดำเนินการประมวลผลด้วยโมเดลงาน
RegionOfInterest = vision.InteractiveSegmenterRegionOfInterest # Perform image segmentation on the provided single image. # The image segmenter must be created with the image mode. roi = RegionOfInterest(format=RegionOfInterest.Format.KEYPOINT, keypoint=NormalizedKeypoint(x, y)) segmented_masks = segmenter.segment(mp_image, roi)
ดูตัวอย่างที่สมบูรณ์มากขึ้นของการใช้การอนุมานตัวแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟได้ที่ตัวอย่างโค้ด
จัดการและแสดงผลลัพธ์
ผลลัพธ์เอาต์พุตสำหรับเครื่องมือแบ่งกลุ่มรูปภาพแบบอินเทอร์แอกทีฟคือรายการข้อมูล Image
และอาจมีมาสก์หมวดหมู่ มาสก์ความเชื่อมั่น หรือทั้ง 2 อย่าง ทั้งนี้ขึ้นอยู่กับสิ่งที่คุณตั้งค่าไว้เมื่อกําหนดค่างาน หากคุณตั้งค่า output_category_mask
เป็น True
เอาต์พุตจะเป็นลิสต์ที่มีมาสก์แบบแบ่งกลุ่มเดียวเป็นภาพ uint8 ค่าพิกเซลจะระบุว่าพิกเซลนั้นเป็นส่วนหนึ่งของวัตถุในบริเวณที่น่าสนใจหรือไม่ ดัชนีหมวดหมู่ที่รู้จักของรูปภาพอินพุต หากคุณตั้งค่า output_confidence_masks
เป็น True
ผลลัพธ์จะเป็นรายการแชแนลที่มีค่าพิกเซลภายในช่วง [0,1]
ซึ่งแสดงคะแนนความเชื่อมั่นของพิกเซลที่เป็นของวัตถุในพื้นที่สนใจ
ส่วนต่อไปนี้จะอธิบายข้อมูลเอาต์พุตจากงานนี้เพิ่มเติม
มาสก์หมวดหมู่
รูปภาพต่อไปนี้แสดงภาพแสดงผลของเอาต์พุตงานสำหรับมาสก์หมวดหมู่และค่าพร้อมระบุจุดที่น่าสนใจ พิกเซลแต่ละพิกเซลคือuint8
ค่าที่ระบุว่าพิกเซลเป็นส่วนหนึ่งของวัตถุที่อยู่ในบริเวณที่น่าสนใจหรือไม่ วงกลมสีดําและขาวในรูปภาพที่สองระบุพื้นที่ความสนใจที่เลือก
เอาต์พุตมาสก์รูปภาพและหมวดหมู่ต้นฉบับ รูปภาพต้นทางจากชุดข้อมูล Pascal VOC 2012
มาสก์ความเชื่อมั่น
เอาต์พุตสำหรับหน้ากากความเชื่อมั่นมีค่าเป็นทศนิยมระหว่าง [0, 1]
สำหรับแชแนลอินพุตรูปภาพแต่ละช่อง ค่าที่สูงขึ้นบ่งบอกถึงความมั่นใจที่มากขึ้นว่าพิกเซลรูปภาพเป็นส่วนหนึ่งของวัตถุที่อยู่ในพื้นที่สนใจ