public 静的クラス Tensor.QuantizationParams
TFLite モデルのスキーマ ファイル内のテーブル QuantizationParameters
に対応する量子化パラメータ。
チャネルごとの量子化は入力テンソルと出力テンソルには適用されないため、scale
と zero_point
は配列ではなく単一の値です。
量子化されていないテンソルの場合、scale と zero_point の値はどちらも 0 です。
量子化値 q から、対応する浮動小数点値 f は次のようになります。
f = scale * (q - zero_point)
パブリック コンストラクタ
QuantizationParams(浮動小数点スケール、整数 zeroPoint)
|
パブリック メソッド
浮動小数点数 |
getScale()
スケール値を返します。
|
整数 |
getZeroPoint()
ゼロ点値を返します。
|