QuantizeOp

Định lượng TensorBuffer bằng zeroPoint và scale cho trước.

Lưu ý: QuantizeOp không truyền dữ liệu đầu ra sang UINT8 mà chỉ thực hiện phép toán lượng tử hoá ở đầu vào. Loại dữ liệu của tensor đầu ra luôn là FLOAT32 ngoại trừ việc Op thực sự là một Ops nhận dạng (trong trường hợp này, tensor đầu ra cũng giống như đầu vào). Để kết nối với mô hình lượng tử hoá, bạn có thể cần có CastOp.

Nếu cả zeroPoint và scale đều bằng 0, thì QuantizeOp sẽ bị bỏ qua, tương đương với việc đặt zeroPoint thành 0 và scale thành 1. Điều này có thể hữu ích khi truyền các thông số lượng tử hoá được trích xuất trực tiếp từ vùng đệm phẳng của mô hình TFLite. Nếu tensor không được lượng tử hoá, thì cả zeroPoint và scale sẽ được đọc là 0.