AI Edge Torch Generative API היא ספרייה להמרת מודלים של PyTorch שמבוססים על טרנספורמציה לפורמט LiteRT. כך אפשר להמיר מודלים גדולים של שפה (LLM) ליצירת תמונות וטקסט במכשיר באמצעות LiteRT-LM. ה-API הגנרטיבי של AI Edge Torch
תומך כרגע ב-CPU וב-GPU, ויש תוכניות לתמיכה ב-NPU.
מפתחים יכולים להשתמש ב-Generative API כדי לשלב מודלים גדולים של שפה (LLM) של PyTorch עם LiteRT-LM, וכך ליצור אפליקציות שמריצות את מודלי PyTorch שהומרו באופן מלא במכשיר.
מידע נוסף זמין במאגר GitHub של Generative Torch API.
[[["התוכן קל להבנה","easyToUnderstand","thumb-up"],["התוכן עזר לי לפתור בעיה","solvedMyProblem","thumb-up"],["סיבה אחרת","otherUp","thumb-up"]],[["חסרים לי מידע או פרטים","missingTheInformationINeed","thumb-down"],["התוכן מורכב מדי או עם יותר מדי שלבים","tooComplicatedTooManySteps","thumb-down"],["התוכן לא עדכני","outOfDate","thumb-down"],["בעיה בתרגום","translationIssue","thumb-down"],["בעיה בדוגמאות/בקוד","samplesCodeIssue","thumb-down"],["סיבה אחרת","otherDown","thumb-down"]],["עדכון אחרון: 2025-12-06 (שעון UTC)."],[],[]]
