QuantizeOp

Classe publique QuantizeOp

Calcule une valeur TensorBuffer avec les valeurs zeroPoint et scale données.

Remarque: QuantizeOp ne caste pas la sortie en UINT8, mais effectue uniquement le calcul de quantification sur l'entrée. Le type de données du Tensor de sortie est toujours FLOAT32, sauf que l'opération est effectivement une opération d'identité (dans ce cas, le Tensor de sortie est la même instance que l'entrée). Pour se connecter à un modèle quantifié, un CastOp est probablement nécessaire.

Si zeroPoint et scale sont tous deux définis sur 0, QuantizeOp est ignoré, ce qui équivaut à définir zeroPoint sur 0 et scale sur 1. Cela peut être utile lors de la transmission des paramètres de quantification extraits directement du tampon plat du modèle TFLite. Si le Tensor n'est pas quantifié, zeroPoint et scale seront tous les deux lus comme 0.

Constructeurs publics

QuantizeOp(float zeroPoint, échelle flottante)

Méthodes héritées

Constructeurs publics

public QuantizeOp (float zeroPoint, float scale)

Paramètres
zeroPoint
Google.