مدل های PyTorch مولد را تبدیل کنید

API مولد مشعل لبه هوش مصنوعی (AI Edge Torch Generative API) کتابخانه‌ای برای تبدیل مدل‌های PyTorch مبتنی بر ترانسفورماتور به فرمت LiteRT است که شما را قادر می‌سازد مدل‌های زبان بزرگ (LLM) را برای تولید تصویر و متن روی دستگاه با LiteRT-LM تبدیل کنید. API مولد مشعل لبه هوش مصنوعی (AI Edge Torch Generative API) در حال حاضر از CPU و GPU پشتیبانی می‌کند و پشتیبانی از NPU نیز در برنامه قرار دارد.

توسعه‌دهندگان می‌توانند از Generative API برای ادغام LLMهای PyTorch با LiteRT-LM استفاده کنند تا برنامه‌هایی ایجاد کنند که مدل‌های تبدیل‌شده PyTorch را به‌طور کامل روی دستگاه اجرا کنند.

برای اطلاعات بیشتر، به مخزن GitHub API Generative Torch مراجعه کنید.