مدل های PyTorch مولد را تبدیل کنید

AI Edge Torch Generative API یک کتابخانه بهینه‌سازی شده برای موبایل برای تبدیل مدل‌های PyTorch مبتنی بر ترانسفورماتور به قالب TF Lite است که به شما امکان می‌دهد مدل‌های زبان بزرگ (LLM) را برای تولید تصویر و متن روی دستگاه با TF Lite و MediaPipe تبدیل کنید. AI Edge Torch Generative API در حال حاضر فقط CPU است و از GPU و NPU برنامه ریزی شده پشتیبانی می کند.

توسعه‌دهندگان برنامه‌های موبایل می‌توانند از Edge Generative API برای ادغام PyTorch LLM با MediaPipe LLM Inference API استفاده کنند تا برنامه‌هایی ایجاد کنند که آن مدل‌های PyTorch تبدیل شده را کاملاً روی دستگاه اجرا کنند.

برای اطلاعات بیشتر، به مخزن Generative Torch API GitHub مراجعه کنید.