تحويل نماذج PyTorch التوليدية

أداة الذكاء الاصطناعي التوليدي لميزة AI Edge واجهة برمجة التطبيقات هي مكتبة محسّنة للأجهزة الجوّالة لتحويل نماذج PyTorch المستندة إلى المحولات إلى فيمكنك تحويل النماذج اللغوية الكبيرة (LLM) إلى تنسيق LiteRT إنشاء النصوص والصور على الجهاز فقط باستخدام LiteRT وMediaPipe تعمل واجهة برمجة التطبيقات AI Edge Torch Generative API حاليًا على وحدة المعالجة المركزية (CPU) فقط، وتدعم وحدات معالجة الرسومات وNPU المخطّط لها.

يمكن لمطوّري التطبيقات للأجهزة الجوّالة استخدام Edge Generative API لدمج النماذج اللغوية الكبيرة من PyTorch مع MediaPipe LLM Inference API لإنشاء تطبيقات تشغيل نماذج PyTorch التي تم تحويلها على الجهاز فقط.

لمزيد من المعلومات، يُرجى الاطّلاع على Generative Torch API GitHub المستودع.