AI Edge Torch Generative API, ट्रांसफ़ॉर्मर पर आधारित PyTorch मॉडल को LiteRT फ़ॉर्मैट में बदलने के लिए एक लाइब्रेरी है. इससे, लार्ज लैंग्वेज मॉडल (एलएलएम) को LiteRT-LM के साथ डिवाइस पर इमेज और टेक्स्ट जनरेट करने के लिए बदला जा सकता है. फ़िलहाल, AI Edge Torch Generative API, सीपीयू और जीपीयू के साथ काम करता है. आने वाले समय में, यह एनपीयू के साथ भी काम करेगा.
डेवलपर, Generative API का इस्तेमाल करके PyTorch LLM को LiteRT-LM के साथ इंटिग्रेट कर सकते हैं. इससे ऐसे ऐप्लिकेशन बनाए जा सकते हैं जो बदले गए PyTorch मॉडल को पूरी तरह से डिवाइस पर चलाते हैं.
ज़्यादा जानकारी के लिए, Generative Torch API GitHub repo देखें.
[[["समझने में आसान है","easyToUnderstand","thumb-up"],["मेरी समस्या हल हो गई","solvedMyProblem","thumb-up"],["अन्य","otherUp","thumb-up"]],[["वह जानकारी मौजूद नहीं है जो मुझे चाहिए","missingTheInformationINeed","thumb-down"],["बहुत मुश्किल है / बहुत सारे चरण हैं","tooComplicatedTooManySteps","thumb-down"],["पुराना","outOfDate","thumb-down"],["अनुवाद से जुड़ी समस्या","translationIssue","thumb-down"],["सैंपल / कोड से जुड़ी समस्या","samplesCodeIssue","thumb-down"],["अन्य","otherDown","thumb-down"]],["आखिरी बार 2025-12-06 (UTC) को अपडेट किया गया."],[],[]]
