public 静的クラス Tensor.QuantizationParams
TFLite モデルのスキーマ ファイル内のテーブル QuantizationParameters に対応する量子化パラメータ。
チャネルごとの量子化は入力テンソルと出力テンソルには適用されないため、scale と zero_point は配列ではなく単一の値です。
量子化されていないテンソルの場合、scale と zero_point の値はどちらも 0 です。
量子化値 q から、対応する浮動小数点値 f は次のようになります。
f = scale * (q - zero_point)
パブリック コンストラクタ
|
QuantizationParams（浮動小数点スケール、整数 zeroPoint）
|
パブリック メソッド
| 浮動小数点数 |
getScale()
スケール値を返します。
|
| 整数 |
getZeroPoint()
ゼロ点値を返します。
|
継承されるメソッド
パブリック コンストラクタ
public QuantizationParams （float scale, int zeroPoint）
scale と zero_point で Tensor.QuantizationParams を作成します。
パラメータ
| WAF によるメリット | 量子化に使用されるスケール値。 |
|---|---|
| zeroPoint | 量子化で使用されるゼロ点値。 |
パブリック メソッド
public float getScale ()
スケール値を返します。
public int getZeroPoint ()
ゼロ点値を返します。