نظرة عامة على الإحالات الناجحة للنماذج

إن نماذج التعلم الآلي (ML) التي تستخدمها مع LiteRT هي في الأصل في المنصة وتدريبها باستخدام المكتبات والأدوات الأساسية لمنصة TensorFlow. بمجرد إنشاء بنواة TensorFlow، فيمكنك تحويلها إلى نموذج أصغر حجمًا لتعلُّم الآلة بشكل فعّال ونموذج يسمى نموذج LiteRT. يقدّم هذا القسم إرشادات حول الإحالات الناجحة. نماذج TensorFlow إلى تنسيق نموذج LiteRT.

سير عمل الإحالات الناجحة

يمكن أن يستغرق تحويل نماذج TensorFlow إلى تنسيق LiteRT بضعة مسارات. اعتمادًا على محتوى نموذج تعلُّم الآلة كخطوة أولى في هذه العملية، فيجب عليك تقييم النموذج لتحديد ما إذا كان يمكن تحويله بشكل مباشر. ويحدد هذا التقييم ما إذا كان محتوى النموذج مدعومًا بيئات وقت تشغيل LiteRT القياسية على أساس عمليات TensorFlow التي يستخدمها. إذا كان النموذج يستخدم عمليات خارج المجموعة المعتمدة، سيكون لديك خيار إعادة ضبط النموذج أو استخدام أساليب التحويل المتقدمة.

يوضح المخطّط التالي الخطوات عالية المستوى في تحويل أي نموذج.

سير عمل إحالات ناجحة TFLite

الشكل 1. سير عمل تحويل LiteRT

توضح الأقسام التالية عملية تقييم النماذج وتحويلها للاستخدام مع LiteRT

تنسيقات نماذج الإدخال

يمكنك استخدام المحوّل مع تنسيقات نماذج الإدخال التالية:

  • SavedModel (إجراء يُنصَح به): نموذج TensorFlow محفوظ كمجموعة من الملفات على القرص.
  • نموذج "كيراس": يشير ذلك المصطلح إلى نموذج تم إنشاؤه باستخدام واجهة برمجة تطبيقات Keras عالية المستوى.
  • تنسيق Keras H5: بديل خفيف للتنسيق SaveModel المتوافق مع واجهة برمجة التطبيقات Keras
  • النماذج التي تم إنشاؤها من دوال ملموسة: نموذج تم إنشاؤه باستخدام واجهة برمجة تطبيقات TensorFlow منخفضة المستوى

يمكنك حفظ كل من نموذجي دالة Keras ودالة ملموسة كنموذج محفوظ. وتُجري الإحالات الناجحة باستخدام المسار المقترَح

إذا كان لديك نموذج Jax، يمكنك استخدام TFLiteConverter.experimental_from_jax. API لتحويله إلى تنسيق LiteRT. تجدر الإشارة إلى أنّ واجهة برمجة التطبيقات هذه تخضع للتغيير أثناء استخدام الوضع التجريبي.

تقييم الإحالات الناجحة

يُعدّ تقييم النموذج خطوة مهمة قبل محاولة تحويله. عند التقييم، وتريد تحديد ما إذا كانت محتويات النموذج تتوافق مع LiteRT. كما يجب عليك تحديد ما إذا كان نموذجك مناسبًا للاستخدام على الأجهزة الجوّالة وأجهزة الحافة من حيث حجم البيانات التي يستخدمها النموذج، ومتطلبات معالجة الأجهزة، والحجم الإجمالي للنموذج والتعقيد.

بالنسبة للعديد من النماذج، يجب أن يعمل المحوّل بطريقة غير تقليدية. ومع ذلك، تدعم مكتبة مشغل LiteRT المضمنة مجموعة فرعية من عوامل التشغيل الأساسية TensorFlow، ما يعني أنّ بعض النماذج قد تحتاج إلى إجراءات إضافية الخطوات قبل التحويل إلى LiteRT. بالإضافة إلى ذلك فإن بعض العمليات التي يدعمها LiteRT متطلبات الاستخدام المحدود لأسباب تتعلق بالأداء. يمكنك الاطّلاع على دليل التوافق مع عوامل التشغيل لتحديد ما إذا كان النموذج بحاجة إلى إعادة ضبط الإعدادات لإجراء الإحالة الناجحة.

إحالة ناجحة النموذج

يأخذ محوّل LiteRT نموذج TensorFlow وينشئ نموذج LiteRT (نموذج محسّن تنسيق FlatBuffer الذي يحدّده امتداد الملف .tflite). يمكنك تحميل نموذج محفوظ أو تحويل النموذج الذي تنشئه مباشرةً في التعليمات البرمجية.

يأخذ المستخدم الذي أجرى الإحالة الناجحة 3 علامات (أو خيارات) رئيسية لتخصيص الإحالة الناجحة لنموذجك:

  1. تتيح لك علامات التوافق تحديد ما إذا كان يجب أن يسمح التحويل بعوامل التشغيل المخصصة.
  2. تتيح لك علامات التحسين ما يلي: تحديد نوع التحسين لتطبيقه أثناء التحويل. ويُعد أسلوب التحسين الأكثر استخدامًا التأهيل بعد التدريب.
  3. تسمح لك علامات البيانات الوصفية بإضافة بيانات وصفية إلى النموذج المحوَّل. الأمر الذي يسهّل إنشاء رمز برنامج تضمين خاص بالنظام الأساسي عند النشر النماذج على الأجهزة.

يمكنك تحويل النموذج باستخدام Python API أو أداة سطر الأوامر. يمكنك الاطّلاع على دليل تحويل نموذج TF للبيانات خطوة بخطوة تعليمات حول تشغيل المحوّل على النموذج.

ستقوم عادةً بتحويل النموذج إلى تنسيق LiteRT القياسي بيئة وقت التشغيل أو بيئة وقت تشغيل "خدمات Google Play" لـ LiteRT (إصدار تجريبي). تتطلب بعض حالات الاستخدام المتقدّمة تخصيص بيئة وقت تشغيل النموذج، الأمر الذي يتطلب خطوات إضافية في عملية الإحالة الناجحة. يمكنك الاطّلاع على بيئة بيئة التشغيل المتقدمة في Android للحصول على مزيد من الإرشادات.

التحويل المتقدم

إذا واجهت أخطاء أثناء تشغيل المحوّل على النموذج، من المرجح أن يكون لديك مشكلة توافق المُشغِّل. لا يتم تنفيذ جميع عمليات TensorFlow متاح من TensorFlow بسيط ويمكنك حل هذه المشكلات بإعادة بناء نموذجك، أو باستخدام خيارات تحويل متقدمة تتيح لك إنشاء نسخة معدلة من LiteRT نموذج تنسيق وبيئة وقت تشغيل مخصصة لهذا النموذج.

الخطوات التالية