Calcule une valeur TensorBuffer
avec les valeurs zeroPoint
et scale
données.
Remarque: QuantizeOp
ne caste pas la sortie en UINT8, mais effectue uniquement le calcul de quantification sur l'entrée. Le type de données du Tensor de sortie est toujours FLOAT32
, sauf que l'opération est effectivement une opération d'identité (dans ce cas, le Tensor de sortie est la même instance que l'entrée). Pour se connecter à un modèle quantifié, un CastOp
est probablement nécessaire.
Si zeroPoint
et scale
sont tous deux définis sur 0, QuantizeOp
est ignoré, ce qui équivaut à définir zeroPoint
sur 0 et scale
sur 1. Cela peut être utile lors de la transmission des paramètres de quantification extraits directement du tampon plat du modèle TFLite. Si le Tensor n'est pas quantifié, zeroPoint
et scale
seront tous les deux lus comme 0.
Constructeurs publics
QuantizeOp(float zeroPoint, échelle flottante)
|
Méthodes héritées
Constructeurs publics
public QuantizeOp (float zeroPoint, float scale)
Paramètres
zeroPoint | |
---|---|
Google. |