QuantizeOp

คลาสสาธารณะ QuantizeOp

วัดปริมาณ TensorBuffer ด้วย zeroPoint และ scale ที่ระบุ

หมายเหตุ: QuantizeOp ไม่แคสต์เอาต์พุตไปยัง UINT8 แต่จะทำการคำนวณตัวเลขนอกเหนือจากอินพุตเท่านั้น ประเภทข้อมูลของ Tensor เอาต์พุตจะเป็น FLOAT32 เสมอ ยกเว้นว่า Op เป็นข้อมูลระบุตัวตนอย่างมีประสิทธิภาพ (ในกรณีนี้ Tensor เอาต์พุตจะเป็นอินสแตนซ์เดียวกับอินพุต) หากต้องการเชื่อมต่อกับโมเดลที่เล็กลงอาจต้องใช้ CastOp

หากทั้ง zeroPoint และ scale เป็น 0 ระบบจะข้าม QuantizeOp ซึ่งเทียบเท่ากับการตั้งค่า zeroPoint เป็น 0 และ scale เป็น 1 ซึ่งจะมีประโยชน์เมื่อส่งในพารามิเตอร์การวัดปริมาณที่ดึงมาจาก FlatBuffer ของโมเดล TFLite โดยตรง หากไม่ได้หาค่า Tensor ทั้ง zeroPoint และ scale จะอ่านเป็น 0

บริษัทก่อสร้าง

QuantizeOp(Float ZeroPoint, ทศนิยม)

วิธีการที่รับช่วงมา

บริษัทก่อสร้าง

สาธารณะ QuantizeOp (Float ZeroPoint, Float Scale)

พารามิเตอร์
zeroPoint
มาตราส่วน