QuantizeOp

מחלקה ציבורית QuantizeOp

הפונקציה מחשבת TensorBuffer עם הערכים zeroPoint ו-scale הנתונים.

הערה: הפונקציה QuantizeOp לא מעבירה פלט ל-UINT8, אלא רק מבצעת את פעולות הקוונטיזציה בנוסף לקלט. סוג הנתונים של tensor פלט הוא תמיד FLOAT32, אלא שה-Op הוא למעשה פעולת זהות (במקרה הזה, Tensor הפלט זהה למופע של הקלט). כדי להתחבר למודל כמותי, כנראה יש צורך ב-CastOp.

אם גם zeroPoint וגם scale הם 0, תתבצע עקיפה של QuantizeOp, שדומה להגדרת zeroPoint ל-0 ו-scale ל-1. זו אפשרות שימושית כשמעבירים את הפרמטרים של הקוונטיזציה שנשלפים ישירות ממאגר הנתונים הזמני של TFLite. אם Tensor לא מכמת, גם zeroPoint וגם scale ייקראו כ-0.

בנאים ציבוריים

QuantizeOp(צף אפסPoint, סולם צף)

שיטות שעברו בירושה

בנאים ציבוריים

Public QuantizeOp (float אפסPoint, סולם צף)

פרמטרים
zeroPoint
קנה מידה