общедоступный статический класс Tensor.QuantizationParams
Параметры квантования, соответствующие таблице QuantizationParameters в файле схемы модели TFLite.
Поскольку поканальное квантование не применяется к входным и выходным тензорам, scale и zero_point являются отдельными значениями, а не массивами.
Для тензоров, которые не квантованы, значения масштаба и нулевой точки оба равны 0.
Учитывая квантованное значение q, соответствующее значение с плавающей запятой f должно быть:
f = масштаб * (q – нулевая_точка)
Публичные конструкторы
QuantizationParams (масштаб с плавающей запятой, int нулевая точка) |
Публичные методы
| плавать | получитьМасштаб () Возвращает значение масштаба. |
| интервал | получитьZeroPoint () Возвращает значение нулевой точки. |
Унаследованные методы
Публичные конструкторы
public QuantizationParams (масштаб с плавающей запятой, int ZeroPoint)
Создает Tensor.QuantizationParams со scale и zero_point .
Параметры
| шкала | Значение масштаба, используемое при квантовании. |
|---|---|
| нулевая точка | Значение нулевой точки, используемое при квантовании. |
Публичные методы
общедоступное число с плавающей запятой getScale ()
Возвращает значение масштаба.