AI Edge Torch Generative API یک کتابخانه بهینه‌سازی شده برای موبایل برای تبدیل مدل‌های PyTorch مبتنی بر ترانسفورماتور به فرمت LiteRT است که به شما امکان می‌دهد مدل‌های زبان بزرگ (LLM) را برای تولید تصویر و متن روی دستگاه با LiteRT و MediaPipe تبدیل کنید. AI Edge Torch Generative API در حال حاضر فقط CPU است و از GPU و NPU برنامه ریزی شده پشتیبانی می کند.
توسعه‌دهندگان برنامه‌های موبایل می‌توانند از Edge Generative API برای ادغام PyTorch LLM با MediaPipe LLM Inference API استفاده کنند تا برنامه‌هایی ایجاد کنند که آن مدل‌های PyTorch تبدیل شده را کاملاً روی دستگاه اجرا کنند.
برای اطلاعات بیشتر، به مخزن Generative Torch API GitHub مراجعه کنید.
،AI Edge Torch Generative API یک کتابخانه بهینه‌سازی شده برای موبایل برای تبدیل مدل‌های PyTorch مبتنی بر ترانسفورماتور به فرمت LiteRT است که به شما امکان می‌دهد مدل‌های زبان بزرگ (LLM) را برای تولید تصویر و متن روی دستگاه با LiteRT و MediaPipe تبدیل کنید. AI Edge Torch Generative API در حال حاضر فقط CPU است و از GPU و NPU برنامه ریزی شده پشتیبانی می کند.
توسعه‌دهندگان برنامه‌های موبایل می‌توانند از Edge Generative API برای ادغام PyTorch LLM با MediaPipe LLM Inference API استفاده کنند تا برنامه‌هایی ایجاد کنند که آن مدل‌های PyTorch تبدیل شده را کاملاً روی دستگاه اجرا کنند.
برای اطلاعات بیشتر، به مخزن Generative Torch API GitHub مراجعه کنید.