توفّر LiteRT طريقة لتحويل نماذج JAX لإجراء استنتاج على الجهاز فقط من خلال الاستفادة من نظام TensorFlow المتكامل. تتضمّن العملية تحويلاً على خطوتين: أولاً من JAX إلى TensorFlow SavedModel، ثم من SavedModel إلى تنسيق .tflite.
عملية التحويل
تحويل JAX إلى TensorFlow SavedModel باستخدام
jax2tf: الخطوة الأولى هي تحويل نموذج JAX إلى تنسيق TensorFlow SavedModel. يتم ذلك باستخدام أداةjax2tf، وهي ميزة تجريبية من JAX. تتيح لكjax2tfتحويل دوال JAX إلى رسومات بيانية في TensorFlow.للحصول على تعليمات وأمثلة تفصيلية حول كيفية استخدام
jax2tf، يُرجى الرجوع إلى وثائقjax2tfالرسمية: https://github.com/jax-ml/jax/blob/main/jax/experimental/jax2tf/README.mdستتضمّن هذه العملية عادةً تغليف دالة التوقّع الخاصة بنموذج JAX باستخدام
jax2tf.convertثم حفظها باستخدامtf.saved_model.saveفي TensorFlow.تحويل TensorFlow SavedModel إلى TFLite: بعد الحصول على النموذج بتنسيق TensorFlow SavedModel، يمكنك تحويله إلى تنسيق TFLite باستخدام أداة التحويل العادية في TensorFlow Lite. تعمل هذه العملية على تحسين النموذج ليتم تنفيذه على الجهاز، ما يقلّل من حجمه ويحسّن الأداء.
يمكنك العثور على التعليمات التفصيلية لتحويل TensorFlow SavedModel إلى TFLite في دليل تحويل نماذج TensorFlow.
يغطّي هذا الدليل الخيارات المختلفة وأفضل الممارسات المتعلّقة بعملية التحويل، بما في ذلك التكميم وعمليات التحسين الأخرى.
من خلال اتّباع هاتين الخطوتين، يمكنك نقل نماذجك المطوّرة في JAX ونشرها بكفاءة على الأجهزة الطرفية باستخدام وقت التشغيل LiteRT.