publiczna klasa statyczna Tensor.QuantizationParams
Parametry kwantyzacji odpowiadające tabeli QuantizationParameters w pliku schematu modeluTFLite.
Ponieważ kwantyfikacja według kanału nie ma zastosowania do tensorów wejściowych i wyjściowych, scale i zero_point to pojedyncze wartości, a nie tablice.
W przypadku tensorów, które nie są poddane kwantyzacji, wartości skali i punktu zerowego mają wartość 0.
Dla skwantyzowanej wartości q odpowiednia wartość zmiennoprzecinkowa f powinna wynosić:
f = skala * (q – punkt_zerowy)
Konstruktorzy publiczni
|
QuantizationParams(skala zmiennoprzecinkowa, int zeroPoint)
|
Metody publiczne
| float |
getScale()
Zwraca wartość skali.
|
| int |
getZeroPoint()
Zwraca wartość zero-punktową.
|