Parâmetros de quantização que correspondem à tabela, QuantizationParameters, no arquivo de esquema modelo do TFLite.
Como a quantização por canal não se aplica aos tensores de entrada e saída, scale e zero_point são valores únicos em vez de matrizes.
Para tensores não quantizados, os valores de scale e zero_point são 0.
Dado um valor quantizado q, o valor flutuante correspondente f precisa ser:
f = scale * (q - zero_point)
Construtores públicos
|
QuantizationParams(escala flutuante, int zeroPoint)
|
Métodos públicos
| float |
getScale()
Retorna o valor da escala.
|
| int |
getZeroPoint()
Retorna o valor de ponto zero.
|
Métodos herdados
Construtores públicos
public QuantizationParams (float scale, int zeroPoint)
Cria um Tensor.QuantizationParams com scale e zero_point.
Parâmetros
| escalonar | O valor de escala usado na quantização. |
|---|---|
| zeroPoint | O valor de ponto zero usado na quantização. |
Métodos públicos
public float getScale ()
Retorna o valor da escala.
public int getZeroPoint ()
Retorna o valor de ponto zero.