lớp tĩnh công khai Tensor.QuantizationParams
Các tham số lượng tử hoá tương ứng với bảng, QuantizationParameters
, trong tệp giản đồ Mô hình TFLite.
Vì việc lượng tử hoá trên mỗi kênh không áp dụng cho tensor đầu vào và đầu ra, nên scale
và zero_point
là cả hai giá trị duy nhất thay vì các mảng.
Đối với tensor không được lượng tử hoá, các giá trị của scale và zero_point đều bằng 0.
Với giá trị lượng tử hoá q, giá trị số thực f tương ứng phải là:
f = tỷ lệ * (q - zero_point)
Công trình công cộng
QuantizationParams(số thực có độ chính xác đơn, int zeroPoint)
|
Phương thức công khai
float |
getScale()
Trả về giá trị tỷ lệ.
|
int |
Hàm getZeroPoint()
Trả về giá trị điểm không.
|