حلّ AI Edge من Google Cloud لاختبار وتحديد معايير أداء تعلُّم الآلة (ML) على الأجهزة على نطاق واسع
قد يكون تحسين أداء نموذج تعلُّم الآلة على مختلف الأجهزة الجوّالة أمرًا صعبًا. تستغرق الاختبارات اليدوية وقتًا طويلاً وتكلّف الكثير، كما أنّها غالبًا ما تكون غير متاحة لمعظم المطوّرين، ما يؤدي إلى عدم اليقين بشأن أداء النموذج في العالم الحقيقي. يحلّ Google AI Edge Portal هذه المشكلة من خلال إتاحة قياس أداء نماذج LiteRT على مجموعة كبيرة من الأجهزة الجوّالة، ما يساعد المطوّرين في العثور على أفضل الإعدادات لنشر نماذج تعلُّم الآلة على نطاق واسع.
تحسين عملية نشر تعلُّم الآلة على الأجهزة الجوّالة
تبسيط دورات الاختبار وتسريعها على مستوى مجموعة الأجهزة المتنوّعة: يمكنك تقييم أداء النموذج بسهولة على مئات الأجهزة الجوّالة التمثيلية في غضون دقائق.
ضمان جودة النموذج بشكل استباقي وتحديد المشاكل في وقت مبكر: يمكنك تحديد الاختلافات أو التراجعات في الأداء الخاصة بالأجهزة (مثل شرائح معينة أو الأجهزة ذات الذاكرة المحدودة) قبل النشر.
خفض تكلفة اختبار الأجهزة والوصول إلى أحدث الأجهزة: يمكنك إجراء الاختبار على مجموعة متنوعة ومتزايدة باستمرار من الأجهزة الفعلية (أكثر من 100 طراز جهاز حاليًا من مختلف الشركات المصنّعة لأجهزة Android) بدون تكلفة وتعقيد صيانة مختبرك الخاص.
اتّخاذ قرارات فعّالة مستندة إلى البيانات وذكاء الأعمال: يقدّم Google AI Edge Portal بيانات أداء ومقارنات غنية، ما يوفّر ذكاء الأعمال الحاسم اللازم لتوجيه عملية تحسين النماذج بثقة والتحقّق من جاهزية النشر.
مثال على مقياس الأداء:
كيف يساعدك Google AI Edge Portal في قياس أداء نماذج LiteRT؟
اختيار الأجهزة: اختَر الأجهزة المستهدَفة من مجموعتنا الكبيرة باستخدام فلاتر أجهزة معيّنة، بما في ذلك التوافق مع وحدة المعالجة العصبية (NPU) وفئة الجهاز والعلامة التجارية وشرائح المعالجة وذاكرة الوصول العشوائي (RAM). يمكنك بدلاً من ذلك استخدام اختصاراتنا المنسّقة للوصول الفوري إلى قوائم الأجهزة الشائعة.
إنشاء إعدادات: اختَر بين مسرّعات وحدة المعالجة المركزية (CPU) أو وحدة معالجة الرسومات (GPU) أو وحدة المعالجة العصبية (NPU) لمهام قياس الأداء.
التخصيص المتقدّم: يمكنك تعديل الإعدادات الخاصة بالأجهزة للمسرّع الذي اخترته أو المتابعة باستخدام القيم التلقائية.
التوافق مع وحدة المعالجة العصبية (NPU): تتضمّن إمكانات تسريع الأجهزة الآن وحدات المعالجة العصبية، وتضم مجموعة من أكثر من 30 جهازًا من أجهزة Qualcomm.
- الترجمة المسبقة (AOT): ننصح باستخدامها لتحقيق أداء أفضل في مرحلة الإنتاج، إذ توفّر تهيئة أسرع بكثير واستهلاكًا أقل للذاكرة. يتطلّب هذا الوضع توفير نماذج مجمّعة لكل نظام على شريحة فريد في اختيار الأجهزة.
- التجميع أثناء التنفيذ (JIT): يتيح تجميع نموذج واحد على أجهزة محدّدة.
تحميل النماذج: حمِّل ملف النموذج باستخدام واجهة المستخدم أو أشر إليه في حزمة Google Cloud Storage.
إنشاء مهمة قياس أداء جديدة على أكثر من 100 جهاز: (ملاحظة: تم تسريع ملف GIF وتعديله للاختصار)
بعد ذلك، أرسِل مهمتك وانتظِر اكتمالها. بعد أن تصبح جاهزًا، استكشِف النتائج في "لوحة البيانات التفاعلية" باتّباع الخطوات التالية:
مقارنة الإعدادات: يمكنك الاطّلاع بسرعة على الاختلافات في مقاييس الأداء (مثل متوسط وقت الاستجابة وذروة استخدام الذاكرة) عند استخدام أدوات تسريع مختلفة على جميع الأجهزة التي تم اختبارها.
تحليل تأثير الجهاز: يمكنك الاطّلاع على مستوى أداء إعدادات طراز معيّن على مستوى مجموعة الأجهزة المحدّدة. استخدِم المدرّجات التكرارية والمخططات المبعثرة لتحديد الاختلافات في الأداء المرتبطة بخصائص الجهاز بسرعة.
مقاييس تفصيلية: يمكنك الوصول إلى جدول تفصيلي قابل للفرز يعرض مقاييس محدّدة (وقت التهيئة، ومدة استجابة الاستدلال، واستخدام الذاكرة) لكل جهاز على حدة، بالإضافة إلى مواصفات الأجهزة. يمكنك التحقّق من استخدام الأجهزة من خلال جدول "تخصيص المسرّع" الذي يعرض كيفية توزيع عمليات النماذج على النواة (متاح لوحدة المعالجة المركزية ووحدة معالجة الرسومات، وسيتم توفير دعم لوحدة المعالجة العصبية قريبًا).
عرض نتائج قياس الأداء على لوحة البيانات التفاعلية (ملاحظة: تم تسريع ملف GIF وتعديله للاختصار)
الانضمام إلى الإصدار التجريبي الخاص من Google AI Edge Portal
تتوفّر "بوابة Google AI Edge" في برنامج تجريبي خاص لعملاء Google Cloud المدرَجين في القائمة المسموح بها. خلال فترة المعاينة الخاصة هذه، سيتم توفير إمكانية الوصول بدون أي رسوم، وذلك وفقًا لأحكام المعاينة.
هذه المعاينة مناسبة للمطوّرين والفِرق الذين ينشئون تطبيقات تعلُّم آلة على الأجهزة الجوّالة باستخدام LiteRT ويحتاجون إلى بيانات قياس أداء موثوقة على مجموعة متنوعة من أجهزة Android، كما أنّهم على استعداد لتقديم ملاحظاتهم للمساعدة في تشكيل مستقبل المنتج. لطلب الوصول إلى الميزة، يُرجى ملء نموذج الاشتراك هنا لإبداء اهتمامك. يتم منح إذن الوصول من خلال إدراج عنوان IP في القائمة المسموح بها.