Parâmetros de quantização que correspondem à tabela, QuantizationParameters
, no arquivo de esquema modelo do TFLite.
Como a quantização por canal não se aplica aos tensores de entrada e saída, scale
e zero_point
são valores únicos em vez de matrizes.
Para tensores não quantizados, os valores de scale e zero_point são 0.
Dado um valor quantizado q, o valor flutuante correspondente f precisa ser:
f = scale * (q - zero_point)
Construtores públicos
QuantizationParams(escala flutuante, int zeroPoint)
|
Métodos públicos
float |
getScale()
Retorna o valor da escala.
|
int |
getZeroPoint()
Retorna o valor de ponto zero.
|
Métodos herdados
Construtores públicos
public QuantizationParams (float scale, int zeroPoint)
Cria um Tensor.QuantizationParams
com scale
e zero_point
.
Parâmetros
escalonar | O valor de escala usado na quantização. |
---|---|
zeroPoint | O valor de ponto zero usado na quantização. |
Métodos públicos
public float getScale ()
Retorna o valor da escala.
public int getZeroPoint ()
Retorna o valor de ponto zero.