تتيح لك مكتبة AI Edge Torch تحويل نماذج PyTorch إلى .tflite.
، مما يمكّنك من تشغيل هذه النماذج باستخدام LiteRT وMediaPipe.
يُعدّ ذلك مفيدًا بشكل خاص للمطوّرين الذين ينشئون تطبيقات للأجهزة الجوّالة تشغّل نماذج.
على الجهاز فقط. توفّر AI Edge Torch تغطية واسعة لوحدة المعالجة المركزية (CPU)، مع وحدة معالجة رسومات أوّلية
و NPU.
للبدء بتحويل نماذج PyTorch إلى LiteRT، استخدِم أداة التحويل Pytorch التشغيل السريع. لمزيد من المعلومات، يُرجى الاطّلاع على AI Edge Torch مستودع GitHub.
إذا كنت تعمل على تحويل نماذج لغوية كبيرة (LLM) أو المستندة إلى المحوّلات، استخدِم Generative Torch API الذي يعالج تفاصيل الإحالات الناجحة الخاصة بالمحوّل مثل تأليف النماذج التحليل الكمي.
سير عمل الإحالات الناجحة
توضّح الخطوات التالية عملية تحويل بسيطة من البداية إلى النهاية في PyTorch نموذج إلى LiteRT.
استيراد مشعل الذكاء الاصطناعي (AI)
ابدأ باستيراد حزمة AI Edge Torch (ai-edge-torch) مع
PyTorch.
import ai_edge_torch
import torch
في هذا المثال، سنطلب أيضًا الحزم التالية:
import numpy
import torchvision
إعداد النموذج وتحويله
سنقوم بتحويل ResNet18، هو نموذج رائج للتعرّف على الصور.
resnet18 = torchvision.models.resnet18(torchvision.models.ResNet18_Weights.IMAGENET1K_V1).eval()
استخدام طريقة convert من مكتبة AI Edge Torch لتحويل PyTorch
الأمثل.
sample_input = (torch.randn(1, 3, 224, 224),)
edge_model = ai_edge_torch.convert(resnet18.eval(), sample_input)
استخدام النموذج
بعد تحويل نموذج Pytorch، يمكنك إجراء الاستنتاجات باستخدام النموذج نموذج LiteRT المحوَّل.
output = edge_model(*sample_inputs)
يمكنك تصدير النموذج المحوَّل وحفظه بتنسيق .tflite في المستقبل.
استخدامها.
edge_model.export('resnet.tflite')