QuantizeOp

Квантует TensorBuffer с заданными zeroPoint и scale .

Примечание. QuantizeOp не преобразует выходные данные в UINT8, а только выполняет математические вычисления квантования поверх входных данных. Тип данных выходного тензора всегда FLOAT32 за исключением того, что Op фактически является идентификатором Op (в этом случае выходной тензор является тем же экземпляром, что и входной). Для связи с квантованной моделью, вероятно, потребуется CastOp .

Если и zeroPoint , и scale равны 0, QuantizeOp будет пропущен, что эквивалентно установке zeroPoint на 0 и scale на 1. Это может быть полезно при передаче параметров квантования, которые извлекаются непосредственно из плоского буфера модели TFLite. Если тензор не квантован, и zeroPoint , и scale будут читаться как 0.