공개 정적 클래스 Tensor.QuantizationParams
TFLite 모델 스키마 파일의 테이블 QuantizationParameters에 해당하는 양자화 매개변수입니다.
채널별 양자화는 입력 및 출력 텐서에 적용되지 않으므로 scale 및 zero_point는 모두 배열이 아닌 단일 값입니다.
양자화되지 않은 텐서의 경우 scale 및 zero_point 값은 모두 0입니다.
양자화된 값 q가 주어지면 해당 부동 소수점 값 f는 다음과 같아야 합니다.
f = scale * (q - zero_point)
공개 생성자
|
QuantizationParams(부동 소수점 수, intzeroPoint)
|
공개 메서드
| float |
getScale()
배율 값을 반환합니다.
|
| int |
getZeroPoint()
0포인트 값을 반환합니다.
|
상속된 메서드
공개 생성자
public QuantizationParams (float scale, int zeroPoint)
scale 및 zero_point로 Tensor.QuantizationParams를 만듭니다.
매개변수
| 활용 | 양자화에 사용되는 배율 값입니다. |
|---|---|
| zeroPoint | 양자화에 사용되는 0포인트 값입니다. |
공개 메서드
public float getScale ()
배율 값을 반환합니다.
public int getZeroPoint ()
0포인트 값을 반환합니다.