Параметры квантования, соответствующие таблице QuantizationParameters
в файле схемы модели TFLite.
Поскольку поканальное квантование не применяется к входным и выходным тензорам, scale
и zero_point
являются отдельными значениями, а не массивами.
Для тензоров, которые не квантованы, значения масштаба и нулевой точки оба равны 0.
Учитывая квантованное значение q, соответствующее значение с плавающей запятой f должно быть:
f = масштаб * (q – нулевая_точка)
Публичные конструкторы
QuantizationParams (масштаб с плавающей запятой, int нулевая точка) |
Публичные методы
плавать | получитьМасштаб () Возвращает значение масштаба. |
интервал | получитьZeroPoint () Возвращает значение нулевой точки. |
Унаследованные методы
логическое значение | равно ( Объект arg0) |
последний класс <?> | получитьКласс () |
интервал | хэш-код () |
окончательная пустота | поставить в известность () |
окончательная пустота | уведомитьВсе () |
Нить | нанизывать () |
окончательная пустота | подождать (длинный arg0, int arg1) |
окончательная пустота | подождите (длинный arg0) |
окончательная пустота | ждать () |
Публичные конструкторы
public QuantizationParams (масштаб с плавающей запятой, int ZeroPoint)
Создает MetadataExtractor.QuantizationParams
с scale
и zero_point
.
Параметры
шкала | Значение масштаба, используемое при квантовании. |
---|---|
нулевая точка | Значение нулевой точки, используемое при квантовании. |
Публичные методы
общедоступное число с плавающей запятой getScale ()
Возвращает значение масштаба.
public int getZeroPoint ()
Возвращает значение нулевой точки.