MediaPipe LLM Infrence API की मदद से, आपके डिवाइस पर Gemma मॉडल को पूरी तरह से चलाया जा सकता है. एलएलएम इंफ़रेंस एपीआई, बड़े लैंग्वेज मॉडल के लिए रैपर की तरह काम करता है. इससे आपको टेक्स्ट-टू-टेक्स्ट जनरेट करने के सामान्य कामों के लिए, डिवाइस पर Gemma मॉडल चलाने की सुविधा मिलती है. इन कामों में जानकारी हासिल करना, ईमेल ड्राफ़्ट करना, और दस्तावेज़ की खास जानकारी शामिल है.
MediaPipe Studio के साथ एलएलएम इंफ़रेंस एपीआई आज़माएं. यह डिवाइस पर आधारित मॉडल का आकलन करने और उन्हें पसंद के मुताबिक बनाने के लिए, वेब पर आधारित ऐप्लिकेशन है.
एलएलएम अनुमान एपीआई, इन प्लैटफ़ॉर्म पर उपलब्ध है:
ज़्यादा जानने के लिए, MediaPipe एलएलएम अनुमान का दस्तावेज़ देखें.