استنتاج LiteRT با ابرداده

استنتاج مدل ها با ابرداده می تواند به سادگی چند خط کد باشد. ابرداده LiteRT شامل توصیفی غنی از آنچه مدل انجام می دهد و نحوه استفاده از مدل است. می‌تواند به تولیدکننده‌های کد قدرت دهد تا به‌طور خودکار کد استنتاج را برای شما تولید کنند، مانند استفاده از ویژگی Android Studio ML Binding یا تولیدکننده کد Android LiteRT . همچنین می تواند برای پیکربندی خط لوله استنتاج سفارشی شما استفاده شود.

ابزارها و کتابخانه ها

LiteRT انواع ابزارها و کتابخانه ها را برای ارائه سطوح مختلف الزامات استقرار به شرح زیر فراهم می کند:

ایجاد رابط مدل با تولید کننده کد اندروید

دو راه برای تولید خودکار کد پوشش اندروید لازم برای مدل LiteRT با ابرداده وجود دارد:

  1. Android Studio ML Model Binding ابزاری است که در Android Studio برای وارد کردن مدل LiteRT از طریق یک رابط گرافیکی موجود است. Android Studio به طور خودکار تنظیمات پروژه را پیکربندی می کند و کلاس های wrapper را بر اساس فراداده مدل ایجاد می کند.

  2. LiteRT Code Generator یک فایل اجرایی است که رابط مدل را به طور خودکار بر اساس ابرداده تولید می کند. در حال حاضر از اندروید با جاوا پشتیبانی می کند. کد wrapper نیاز به تعامل مستقیم با ByteBuffer را از بین می برد. در عوض، توسعه دهندگان می توانند با مدل LiteRT با اشیاء تایپ شده مانند Bitmap و Rect تعامل داشته باشند. کاربران Android Studio همچنین می‌توانند از طریق Android Studio ML Binding به ویژگی codegen دسترسی پیدا کنند.

خطوط لوله استنتاج سفارشی را با کتابخانه پشتیبانی LiteRT ایجاد کنید

کتابخانه پشتیبانی LiteRT یک کتابخانه بین پلتفرمی است که به سفارشی کردن رابط مدل و ایجاد خطوط لوله استنتاج کمک می کند. این شامل انواع روش‌های کاربردی و ساختارهای داده برای انجام پردازش قبل و بعد و تبدیل داده است. همچنین برای مطابقت با رفتار ماژول های TensorFlow، مانند TF.Image و TF.Text، طراحی شده است، که از آموزش تا استنباط سازگاری را تضمین می کند.

مدل های از پیش آموزش دیده را با ابرداده کاوش کنید

مدل های Kaggle را برای دانلود مدل های از پیش آموزش دیده با ابرداده برای وظایف بینایی و متنی مرور کنید. همچنین گزینه های مختلف تجسم ابرداده را ببینید.

LiteRT از مخزن GitHub پشتیبانی می کند

برای مثال‌ها و کد منبع بیشتر ، از مخزن پشتیبانی LiteRT GitHub دیدن کنید.