تحويل نماذج PyTorch التوليدية

AI Edge Torch Generative API هي مكتبة لتحويل نماذج PyTorch المستندة إلى المحوّل إلى تنسيق LiteRT، ما يتيح لك تحويل النماذج اللغوية الكبيرة (LLM) لإنشاء الصور والنصوص على الجهاز باستخدام LiteRT-LM. تتوافق واجهة برمجة التطبيقات التوليدية AI Edge Torch Generative API حاليًا مع وحدة المعالجة المركزية ووحدة معالجة الرسومات، ومن المقرر أن تتوافق مع وحدة المعالجة العصبية.

يمكن للمطوّرين استخدام Generative API لدمج النماذج اللغوية الكبيرة (LLM) في PyTorch مع LiteRT-LM لإنشاء تطبيقات تشغّل نماذج PyTorch المحوَّلة بالكامل على الجهاز فقط.

لمزيد من المعلومات، يُرجى الاطّلاع على مستودع GitHub الخاص بواجهة برمجة التطبيقات Generative Torch API.