publiczna klasa statyczna Tensor.QuantizationParams
Parametry kwantyzacji odpowiadające tabeli QuantizationParameters w pliku schematu modeluTFLite.
Ponieważ kwantyfikacja według kanału nie ma zastosowania do tensorów wejściowych i wyjściowych, scale i zero_point to pojedyncze wartości, a nie tablice.
W przypadku tensorów, które nie są poddane kwantyzacji, wartości skali i punktu zerowego mają wartość 0.
Dla skwantyzowanej wartości q odpowiednia wartość zmiennoprzecinkowa f powinna wynosić:
f = skala * (q – punkt_zerowy)
Konstruktorzy publiczni
|
QuantizationParams(skala zmiennoprzecinkowa, int zeroPoint)
|
Metody publiczne
| float |
getScale()
Zwraca wartość skali.
|
| int |
getZeroPoint()
Zwraca wartość zero-punktową.
|
Metody dziedziczone
Konstruktorzy publiczni
public QuantizationParams (skala zmiennoprzecinkowa, int zeroPoint)
Tworzy element Tensor.QuantizationParams z elementami scale i zero_point.
Parametry
| skala | Wartość skali używana podczas kwantyzacji. |
|---|---|
| zeroPoint | Wartość zerowa używana w kwantyzacji. |
Metody publiczne
public float getScale ()
Zwraca wartość skali.
public int getZeroPoint ()
Zwraca wartość zero-punktową.