راهکار گوگل کلود AI Edge برای آزمایش و محکزنی یادگیری ماشینی (ML) روی دستگاه در مقیاس بزرگ.
بهینهسازی عملکرد مدل یادگیری ماشینی در دستگاههای تلفن همراه متنوع میتواند چالشبرانگیز باشد. تست دستی کند، پرهزینه و اغلب برای اکثر توسعهدهندگان غیرقابل دسترس است و منجر به عدم قطعیت در عملکرد مدل در دنیای واقعی میشود. Google AI Edge Portal با فعال کردن بنچمارک مدل LiteRT در طیف وسیعی از دستگاههای تلفن همراه ، این مشکل را حل میکند و به توسعهدهندگان کمک میکند تا بهترین پیکربندیها را برای استقرار مدل یادگیری ماشینی در مقیاس بزرگ پیدا کنند.
بهینهسازی استقرار یادگیری ماشینی موبایل
سادهسازی و تسریع چرخههای آزمایش در سراسر چشمانداز سختافزاری متنوع : ارزیابی آسان عملکرد مدل در صدها دستگاه تلفن همراه نمونه در عرض چند دقیقه.
به طور پیشگیرانه کیفیت مدل را تضمین کرده و مشکلات را در مراحل اولیه شناسایی کنید : قبل از استقرار، تغییرات یا پسرفتهای عملکرد خاص سختافزار (مانند تراشههای خاص یا دستگاههای دارای محدودیت حافظه) را مشخص کنید.
هزینه تست دستگاه را کاهش دهید و به جدیدترین سختافزار دسترسی داشته باشید : بدون هزینه و پیچیدگی نگهداری آزمایشگاه شخصی، روی ناوگان متنوع و رو به رشدی از دستگاههای فیزیکی (در حال حاضر بیش از ۱۰۰ مدل دستگاه از تولیدکنندگان اصلی تجهیزات (OEM) اندروید) آزمایش کنید.
تصمیمگیریهای قدرتمند و مبتنی بر داده و هوش تجاری را آزاد کنید : پورتال Google AI Edge دادههای عملکردی غنی و مقایسههایی را ارائه میدهد و هوش تجاری حیاتی مورد نیاز برای هدایت مطمئن بهینهسازی مدل و اعتبارسنجی آمادگی استقرار را فراهم میکند.
نمونه بنچمارک:
چگونه پورتال Google AI Edge به شما کمک میکند تا مدلهای LiteRT خود را محک بزنید
انتخاب دستگاهها : دستگاههای هدف خود را از مجموعه گسترده ما با استفاده از فیلترهای سختافزاری خاص - از جمله پشتیبانی از NPU، نوع دستگاه، برند، چیپست و رم - انتخاب کنید. همچنین، میتوانید از میانبرهای انتخاب شده ما برای دسترسی فوری به لیست دستگاههای محبوب استفاده کنید.
ایجاد پیکربندیها : برای انجام وظایف بنچمارکگیری خود، بین شتابدهندههای CPU، GPU یا NPU یکی را انتخاب کنید.
سفارشیسازی پیشرفته : تنظیمات سختافزاری خاص را برای شتابدهنده انتخابی خود تنظیم کنید یا با مقادیر پیشفرض ادامه دهید.
پشتیبانی از NPU : قابلیتهای شتابدهی سختافزاری اکنون شامل NPUها نیز میشود که شامل ناوگانی از بیش از 30 دستگاه کوالکام میشود.
- کامپایل پیش از زمان (AOT) : برای عملکرد در سطح تولید توصیه میشود، که مقداردهی اولیه بسیار سریعتر و اشغال فضای حافظه کمتری را فراهم میکند. این حالت نیاز به ارائه مدلهای کامپایل شده برای هر SoC منحصر به فرد در انتخاب دستگاه شما دارد.
- کامپایل Just-In-Time (JIT) : از یک مدل واحد برای کامپایل در دستگاههای انتخاب شده پشتیبانی میکند.
آپلود مدلها : فایل مدل خود را با استفاده از رابط کاربری آپلود کنید یا در مخزن ذخیرهسازی ابری گوگل خود به آن اشاره کنید.
یک کار معیار جدید روی بیش از ۱۰۰ دستگاه ایجاد کنید. (توجه: GIF برای اختصار فشرده و ویرایش شده است)
از آنجا، کار خود را ارسال کنید و منتظر تکمیل آن باشید. پس از آماده شدن، نتایج را در داشبورد تعاملی بررسی کنید:
مقایسه پیکربندیها : به سرعت تجسم کنید که چگونه معیارهای عملکرد (مثلاً میانگین تأخیر، اوج حافظه) هنگام استفاده از شتابدهندههای مختلف در تمام دستگاههای آزمایششده متفاوت هستند.
تحلیل تأثیر دستگاه : ببینید که یک پیکربندی مدل خاص چگونه در طیف وسیعی از دستگاههای انتخاب شده عمل میکند. از هیستوگرامها و نمودارهای پراکندگی برای شناسایی سریع تغییرات عملکرد مرتبط با ویژگیهای دستگاه استفاده کنید.
معیارهای دقیق : به یک جدول دقیق و قابل مرتبسازی دسترسی داشته باشید که معیارهای خاص (زمان اولیهسازی، تأخیر استنتاج، استفاده از حافظه) را برای هر دستگاه جداگانه، در کنار مشخصات سختافزاری آن نشان میدهد. میزان استفاده از سختافزار را با جدول تخصیص شتابدهنده تأیید کنید، که نشان میدهد چگونه عملیات مدل در هستهها توزیع شده است (برای CPU و GPU موجود است، و پشتیبانی از NPU به زودی ارائه میشود).
نتایج بنچمارک را در داشبورد تعاملی مشاهده کنید. (توجه: GIF برای اختصار، فشرده و ویرایش شده است)
به پیشنمایش خصوصی پورتال هوش مصنوعی گوگل اج بپیوندید
پورتال Google AI Edge در پیشنمایش خصوصی برای مشتریان مجاز Google Cloud در دسترس است. در طول این دوره پیشنمایش خصوصی، دسترسی بدون هزینه و با رعایت شرایط پیشنمایش ارائه میشود.
این پیشنمایش برای توسعهدهندگان و تیمهایی که برنامههای کاربردی یادگیری ماشین موبایل را با LiteRT میسازند و به دادههای معیار قابل اعتماد در سختافزارهای مختلف اندروید نیاز دارند و مایل به ارائه بازخورد برای کمک به شکلدهی آینده محصول هستند، ایدهآل است. برای درخواست دسترسی، فرم ثبت نام ما را اینجا تکمیل کنید تا علاقه خود را ابراز کنید. دسترسی از طریق فهرست مجاز اعطا میشود.