استنتاج مدلها با فراداده میتواند به آسانی چند خط کد باشد. فراداده LiteRT شامل توضیحات کاملی از عملکرد مدل و نحوه استفاده از آن است. این فراداده میتواند به تولیدکنندههای کد این امکان را بدهد که به طور خودکار کد استنتاج را برای شما تولید کنند، مانند استفاده از ویژگی Android Studio ML Binding یا تولیدکننده کد LiteRT Android . همچنین میتوان از آن برای پیکربندی خط لوله استنتاج سفارشی شما استفاده کرد.
ابزارها و کتابخانهها
LiteRT ابزارها و کتابخانههای متنوعی را برای ارائه خدمات در سطوح مختلف الزامات استقرار به شرح زیر ارائه میدهد:
تولید رابط مدل با مولدهای کد اندروید
دو روش برای تولید خودکار کد پوششی اندروید لازم برای مدل LiteRT با فراداده وجود دارد:
ابزار ML Model Binding در اندروید استودیو برای وارد کردن مدل LiteRT از طریق یک رابط گرافیکی در دسترس است. اندروید استودیو به طور خودکار تنظیمات پروژه را پیکربندی کرده و کلاسهای wrapper را بر اساس فرادادههای مدل تولید میکند.
مولد کد LiteRT یک فایل اجرایی است که به طور خودکار رابط مدل را بر اساس فرادادهها تولید میکند. در حال حاضر از اندروید با جاوا پشتیبانی میکند. کد پوششی، نیاز به تعامل مستقیم با
ByteBufferرا از بین میبرد. در عوض، توسعهدهندگان میتوانند با اشیاء تایپشده مانندBitmapوRectبا مدل LiteRT تعامل داشته باشند. کاربران اندروید استودیو همچنین میتوانند از طریق Android Studio ML Binding به ویژگی codegen دسترسی پیدا کنند.
ساخت خطوط استنتاج سفارشی با کتابخانه پشتیبانی LiteRT
کتابخانه پشتیبانی LiteRT یک کتابخانه چند پلتفرمی است که به سفارشیسازی رابط مدل و ساخت خطوط لوله استنتاج کمک میکند. این کتابخانه شامل انواع متدهای کاربردی و ساختارهای داده برای انجام پردازشهای اولیه/پسپردازشی و تبدیل دادهها است. همچنین به گونهای طراحی شده است که با رفتار ماژولهای TensorFlow مانند TF.Image و TF.Text مطابقت داشته باشد و از آموزش تا استنتاج، سازگاری را تضمین کند.
مدلهای از پیش آموزشدیده را با فرادادهها بررسی کنید
برای دانلود مدلهای از پیش آموزشدیده به همراه فراداده برای وظایف بینایی و متنی، به Kaggle Models مراجعه کنید. همچنین گزینههای مختلف مصورسازی فراداده را نیز ببینید.
پشتیبانی LiteRT از مخزن گیتهاب
برای مثالها و کد منبع بیشتر ، از مخزن LiteRT Support GitHub دیدن کنید.