พารามิเตอร์การหาปริมาณที่สอดคล้องกับตาราง QuantizationParameters
ในไฟล์สคีมาโมเดล TFLite
เนื่องจากการวัดปริมาณต่อช่องทางไม่มีผลกับ Tensor อินพุตและเอาต์พุต ทั้ง scale
และ zero_point
จึงเป็นค่าเดี่ยวแทนที่จะเป็นอาร์เรย์
สำหรับ tensor ที่ไม่ได้ระบุจำนวน ค่าของสเกลและ Zero_point จะเป็น 0 ทั้งคู่
เมื่อใช้ค่า q แล้ว ค่าทศนิยม f ที่เกี่ยวข้องควรเป็น
f = สเกล * (q - Zero_point)
บริษัทก่อสร้าง
QuantizationParams(มาตรวัดแบบลอย, int ZeroPoint)
|
วิธีการสาธารณะ
float |
getScale()
แสดงผลค่ามาตราส่วน
|
int |
getZeroPoint()
แสดงผลค่าคะแนนเต็มศูนย์
|
วิธีการที่รับช่วงมา
บริษัทก่อสร้าง
สาธารณะ QuantizationParams (Float Scale, int ZeroPoint)
สร้าง Tensor.QuantizationParams
ด้วย scale
และ zero_point
พารามิเตอร์
มาตราส่วน | ค่ามาตราส่วนที่ใช้ในการคำนวณปริมาณ |
---|---|
zeroPoint | ค่าคะแนนเต็มที่ใช้ในการคำนวณจำนวน |
วิธีการสาธารณะ
สาธารณะ Float getScale ()
แสดงผลค่ามาตราส่วน
สาธารณะ int getZeroPoint ()
แสดงผลค่าคะแนนเต็มศูนย์