پارامترهای کوانتیزاسیون که با جدول QuantizationParameters در فایل طرحواره مدل TFLite مطابقت دارد.
از آنجایی که کوانتیزاسیون هر کانال برای تانسورهای ورودی و خروجی اعمال نمیشود، scale و zero_point هر دو به جای آرایهها یک مقدار هستند.
برای تانسورهایی که کوانتیزه نشده اند، مقادیر مقیاس و نقطه_صفر هر دو 0 هستند.
با توجه به یک مقدار کوانتیزه شده q، مقدار شناور مربوطه f باید باشد:
f = مقیاس * (q - نقطه_صفر)
سازندگان عمومی
QuantizationParams (مقیاس شناور، int zeroPoint) |
روش های عمومی
| شناور | getScale () مقدار مقیاس را برمیگرداند. |
| بین المللی | getZeroPoint () مقدار نقطه صفر را برمی گرداند. |
روش های ارثی
سازندگان عمومی
عمومی QuantizationParams (مقیاس شناور، int zeroPoint)
یک Tensor.QuantizationParams با scale و zero_point ایجاد می کند.
مولفه های
| مقیاس | مقدار مقیاس مورد استفاده در کوانتیزاسیون. |
|---|---|
| نقطه صفر | مقدار نقطه صفر مورد استفاده در کوانتیزاسیون. |
روش های عمومی
عمومی float getScale ()
مقدار مقیاس را برمیگرداند.
عمومی int getZeroPoint ()
مقدار نقطه صفر را برمی گرداند.