दिए गए zeroPoint
और scale
के साथ TensorBuffer
को मापता है.
ध्यान दें: QuantizeOp
, आउटपुट को UINT8 में कास्ट नहीं करता. हालांकि, यह सिर्फ़ इनपुट के सबसे ऊपर, क्वांटाइज़ेशन का हिसाब लगाता है. आउटपुट टेंसर का डेटा टाइप हमेशा FLOAT32
होता है. हालांकि, Op
असरदार तरीके से एक आइडेंटिटी ऑपरेटर है. इस मामले में, आउटपुट टेंसर और इनपुट
एक ही इंस्टेंस है. संख्या वाले मॉडल से कनेक्ट करने के लिए, CastOp
की ज़रूरत हो सकती है.
अगर zeroPoint
और scale
, दोनों 0 हैं, तो QuantizeOp
को बायपास किया जाएगा.
यह zeroPoint
को 0 पर और scale
को 1 पर सेट करने के बराबर है. यह तब काम का हो सकता है,
जब संख्या दिखाने के लिए तय किए गए उन पैरामीटर में पास हो जिन्हें सीधे TFLite मॉडल
फ़्लैटबफ़र से निकाला गया हो. अगर टेन्सर को मापा नहीं गया है, तो zeroPoint
और scale
, दोनों को 0 के तौर पर दिखाया जाएगा.
पब्लिक कंस्ट्रक्टर
QuantizeOp(फ़्लोट ज़ीरोपॉइंट, फ़्लोट स्केल)
|
इनहेरिट किए गए तरीके
पब्लिक कंस्ट्रक्टर
सार्वजनिक QuantizeOp (फ़्लोट ज़ीरोपॉइंट, फ़्लोट स्केल)
पैरामीटर
zeroPoint | |
---|---|
स्केल |