راه حل Google Cloud AI Edge برای آزمایش و محک زدن یادگیری ماشینی روی دستگاه (ML) در مقیاس.
بهینه سازی عملکرد مدل ML در دستگاه های مختلف تلفن همراه می تواند چالش برانگیز باشد. تست دستی آهسته، پرهزینه و اغلب برای اکثر توسعه دهندگان غیرقابل دسترس است، که منجر به عدم قطعیت در عملکرد مدل در دنیای واقعی می شود. Google AI Edge Portal این مشکل را با فعال کردن معیارهای مدل LiteRT در طیف گسترده ای از دستگاه های تلفن همراه حل می کند و به توسعه دهندگان کمک می کند تا بهترین پیکربندی ها را برای استقرار مدل ML در مقیاس بزرگ پیدا کنند.
بهینه سازی استقرار ML موبایل
چرخه‌های آزمایش را در چشم‌انداز سخت‌افزاری متنوع ساده و تسریع کنید : بدون زحمت عملکرد مدل را در صدها دستگاه تلفن همراه نماینده در عرض چند دقیقه ارزیابی کنید.
به طور فعال کیفیت مدل را تضمین کنید و مشکلات را زودتر شناسایی کنید : قبل از استقرار، تغییرات یا رگرسیون‌های عملکرد خاص سخت‌افزار (مانند چیپ‌ست‌های خاص یا دستگاه‌های دارای محدودیت حافظه) را مشخص کنید.
هزینه تست دستگاه پایین تر و دسترسی به آخرین سخت افزار : تست بر روی ناوگان متنوع و به طور مداوم در حال رشد دستگاه های فیزیکی (در حال حاضر بیش از 100 مدل دستگاه از OEM های مختلف Android) بدون هزینه و پیچیدگی نگهداری از آزمایشگاه خود.
قفل تصمیمات و هوش تجاری قدرتمند و مبتنی بر داده را باز کنید : پورتال هوش مصنوعی Google Edge داده‌ها و مقایسه‌های عملکردی غنی را ارائه می‌کند و هوش تجاری حیاتی مورد نیاز برای هدایت مطمئن بهینه‌سازی مدل و اعتبارسنجی آمادگی استقرار را ارائه می‌دهد.
نمونه معیار:
چگونه Google AI Edge Portal به شما کمک می کند تا مدل های LiteRT خود را محک بزنید
آپلود و پیکربندی : فایل مدل خود را از طریق رابط کاربری آپلود کنید یا در سطل فضای ذخیره‌سازی Google Cloud به آن اشاره کنید.
انتخاب شتاب‌دهنده‌ها : آزمایش را در برابر CPU یا GPU (با بازگشت خودکار CPU) مشخص کنید. پشتیبانی از NPU برای نسخه های آینده برنامه ریزی شده است.
دستگاه‌ها را انتخاب کنید : با استفاده از فیلترها (سطح دستگاه، نام تجاری، چیپ‌ست، رم) دستگاه‌های هدف را از مجموعه متنوع ما انتخاب کنید یا فهرست‌های انتخاب شده را با میانبرهای راحت انتخاب کنید.
یک کار معیار جدید در بیش از 100 دستگاه ایجاد کنید. (توجه: GIF تسریع شده و برای اختصار ویرایش شده است)
از آنجا، شغل خود را ارسال کنید و منتظر تکمیل باشید. پس از آماده شدن، نتایج را در داشبورد تعاملی بررسی کنید:
مقایسه پیکربندی‌ها : هنگام استفاده از شتاب‌دهنده‌های مختلف در همه دستگاه‌های آزمایش‌شده، به سرعت تجسم کنید که چگونه معیارهای عملکرد (مانند تأخیر متوسط، حداکثر حافظه) متفاوت است.
تجزیه و تحلیل تأثیر دستگاه : ببینید که چگونه یک پیکربندی مدل خاص در طیف وسیعی از دستگاه‌های انتخاب شده عمل می‌کند. از هیستوگرام ها و نمودارهای پراکندگی برای شناسایی سریع تغییرات عملکرد مرتبط با ویژگی های دستگاه استفاده کنید.
معیارهای دقیق : به یک جدول دقیق و قابل مرتب‌سازی دسترسی داشته باشید که معیارهای خاصی (زمان شروع، تأخیر استنتاج، استفاده از حافظه) را برای هر دستگاه به همراه مشخصات سخت‌افزاری آن نشان می‌دهد.
نتایج محک را در داشبورد تعاملی مشاهده کنید. (توجه: GIF تسریع شده و برای اختصار ویرایش شده است)
به پیش‌نمایش خصوصی Google AI Edge Portal بپیوندید
Google AI Edge Portal به صورت پیش‌نمایش خصوصی برای مشتریان فهرست مجاز Google Cloud در دسترس است. در طول این دوره پیش‌نمایش خصوصی، با توجه به شرایط پیش‌نمایش، دسترسی بدون هزینه ارائه می‌شود.
این پیش‌نمایش برای توسعه‌دهندگان و تیم‌هایی ایده‌آل است که برنامه‌های کاربردی ML تلفن همراه را با LiteRT می‌سازند که به داده‌های محک قابل اعتماد در سخت‌افزارهای مختلف Android نیاز دارند و مایل به ارائه بازخورد برای کمک به شکل‌دهی آینده محصول هستند. برای درخواست دسترسی، فرم ثبت نام ما را برای ابراز علاقه در اینجا تکمیل کنید. دسترسی از طریق فهرست مجاز اعطا می شود.