QuantizeOp

公共类 QuantizeOp

根据给定的 zeroPointscale 量化 TensorBuffer

注意:QuantizeOp 不会将输出转换为 UINT8,而仅在输入的基础上执行量化数学。输出张量的数据类型始终为 FLOAT32,但相应操作实际上是一个身份 Op(在这种情况下,输出张量与输入是同一个实例)。如需连接量化模型,可能需要 CastOp

如果 zeroPointscale 均为 0,系统会绕过 QuantizeOp,这相当于将 zeroPoint 设为 0 并将 scale 设为 1。这在传入直接从 TFLite 模型平面缓冲区提取的量化参数时非常有用。如果未量化张量,则 zeroPointscale 都将被读取为 0。

公共构造函数

QuantizeOp(float zeroPoint, float scale)

继承的方法

公共构造函数

public QuantizeOp (float zeroPoint, float scale)

参数
zeroPoint
和 WAF