Parameter kuantisasi yang sesuai dengan tabel, QuantizationParameters
, dalam file skema Model TFLite.
Karena kuantisasi per saluran tidak berlaku untuk tensor input dan output, scale
dan
zero_point
adalah nilai tunggal, bukan array.
Untuk tensor yang tidak terkuantisasi, nilai scale dan zero_point adalah 0.
Berdasarkan nilai terkuantisasi q, nilai float yang sesuai f seharusnya:
f = scale * (q - zero_point)
Konstruktor Publik
QuantizationParams(skala mengambang, int zeroPoint)
|
Metode Publik
float |
getScale()
Menampilkan nilai scale.
|
int |
getZeroPoint()
Menampilkan nilai nol.
|
Metode Turunan
Konstruktor Publik
publik QuantizationParams (skala mengambang, int zeroPoint)
Membuat Tensor.QuantizationParams
dengan scale
dan zero_point
.
Parameter
scale | Nilai skala yang digunakan dalam kuantisasi. |
---|---|
zeroPoint | Nilai titik nol yang digunakan dalam kuantisasi. |
Metode Publik
public float getScale ()
Menampilkan nilai scale.
public int getZeroPoint ()
Menampilkan nilai nol.