کلاس استاتیک عمومی Tensor.QuantizationParams
پارامترهای کوانتیزاسیون که با جدول QuantizationParameters
در فایل طرحواره مدل TFLite مطابقت دارد.
از آنجایی که کوانتیزاسیون هر کانال برای تانسورهای ورودی و خروجی اعمال نمیشود، scale
و zero_point
هر دو به جای آرایهها یک مقدار هستند.
برای تانسورهایی که کوانتیزه نشده اند، مقادیر مقیاس و نقطه_صفر هر دو 0 هستند.
با توجه به یک مقدار کوانتیزه شده q، مقدار شناور مربوطه f باید باشد:
f = مقیاس * (q - نقطه_صفر)
سازندگان عمومی
QuantizationParams (مقیاس شناور، int zeroPoint) |
روش های عمومی
شناور | getScale () مقدار مقیاس را برمیگرداند. |
بین المللی | getZeroPoint () مقدار نقطه صفر را برمی گرداند. |