הסקת מסקנות מודלים עם מטא-נתונים יכולה להיות פשוטה כמו כמה שורות קוד. המטא-נתונים של LiteRT מכילים תיאור מפורט של מה שהמודל עושה ואיך להשתמש בו. הוא יכול לאפשר לגנרטורים של קוד ליצור בשבילכם באופן אוטומטי את קוד ההסקה, למשל באמצעות התכונה Android Studio ML Binding או גנרטור הקוד LiteRT Android. אפשר להשתמש בו גם כדי להגדיר את צינור ההסקה המותאם אישית.
כלים וספריות
LiteRT מספק מגוון כלים וספריות שמתאימים לדרישות פריסה שונות, כמו שמתואר בהמשך:
יצירת ממשק מודל באמצעות מחוללי קוד של Android
יש שתי דרכים ליצור באופן אוטומטי את קוד העטיפה הדרוש של Android עבור מודל LiteRT עם מטא-נתונים:
Android Studio ML Model Binding הוא כלי שזמין ב-Android Studio לייבוא מודל LiteRT דרך ממשק גרפי. Android Studio יגדיר באופן אוטומטי את ההגדרות של הפרויקט וייצור מחלקות wrapper על סמך המטא-נתונים של המודל.
LiteRT Code Generator הוא קובץ הפעלה שיוצר באופן אוטומטי ממשק מודל על סמך המטא-נתונים. הוא תומך כרגע ב-Android עם Java. קוד העטיפה מבטל את הצורך באינטראקציה ישירה עם
ByteBuffer. במקום זאת, מפתחים יכולים לקיים אינטראקציה עם מודל LiteRT באמצעות אובייקטים מוקלדים כמוBitmapו-Rect. משתמשי Android Studio יכולים גם לקבל גישה לתכונת יצירת הקוד דרך Android Studio ML Binding.
יצירת צינורות עיבוד נתונים להסקת מסקנות בהתאמה אישית באמצעות ספריית התמיכה של LiteRT
ספריית התמיכה של LiteRT היא ספרייה חוצת-פלטפורמות שעוזרת להתאים אישית את ממשק המודל ולבנות צינורות הסקה. הוא מכיל מגוון שיטות עזר ומבני נתונים לביצוע עיבוד מקדים או עיבוד שלאחר העיבוד והמרת נתונים. הוא גם מתוכנן להתאים להתנהגות של מודולים של TensorFlow, כמו TF.Image ו-TF.Text, כדי להבטיח עקביות מאימון ועד הסקה.
עיון במודלים שאומנו מראש באמצעות מטא-נתונים
אפשר לעיין בKaggle Models כדי להוריד מודלים שאומנו מראש עם מטא-נתונים למשימות שקשורות לראייה ולטקסט. אפשר גם לראות אפשרויות שונות של הצגת המטא-נתונים.
מאגר GitHub לתמיכה ב-LiteRT
דוגמאות נוספות וקוד מקור זמינים במאגר LiteRT Support GitHub.