MediaPipe एलएलएम इन्फ़रेंस की मदद से, Gemma के मॉडल को पूरी तरह से डिवाइस पर चलाया जा सकता है एपीआई. कॉन्टेंट बनाने एलएलएम इन्फ़रेंस एपीआई, बड़े लैंग्वेज मॉडल के लिए एक रैपर की तरह काम करता है. इससे आपको टेक्स्ट जनरेट करने जैसे सामान्य टास्क पूरे करने के लिए, Gemma के मॉडल, डिवाइस पर मौजूद हैं. जैसे, जानकारी वापस पाना, ईमेल ड्राफ़्ट करना, और दस्तावेज़ की खास जानकारी इकट्ठा करना.
MediaPipe के साथ एलएलएम इन्फ़रेंस एपीआई आज़माएं Studio, ऑन-डिवाइस मॉडल का मूल्यांकन करने और उन्हें पसंद के मुताबिक बनाने के लिए वेब-आधारित ऐप्लिकेशन है.
एलएलएम इन्फ़रेंस एपीआई, इन प्लैटफ़ॉर्म पर उपलब्ध है:
ज़्यादा जानने के लिए, MediaPipe एलएलएम का अनुमान देखें दस्तावेज़ में दिया गया है.