Gemini मॉडल फ़ैमिली का सबसे छोटा वर्शन Gemini Nano, डिवाइस पर चलाया जा सकता है. इसके लिए, ज़रूरी है कि आपके डिवाइस में ज़रूरी शर्तें पूरी हों. जैसे, Google Pixel 8 Pro और Samsung S24 सीरीज़ वाले डिवाइस.
Android पर Gemini Nano मॉडल को चलाने के लिए, आपको Android के लिए Google के एआई Edge SDK का इस्तेमाल करना होगा. इससे, ये काम करने के लिए एपीआई मिलते हैं:
- यह पता लगाएं कि आपके Android डिवाइस पर यह सुविधा काम करती है या नहीं.
- Gemini Nano मॉडल का ऐक्सेस पाएं.
- सुरक्षा सेटिंग में बदलाव करें.
- बेहतर परफ़ॉर्मेंस के साथ अनुमान लगाएं और फ़ॉलबैक लागू करें.
- इसके अलावा, अपने इस्तेमाल के उदाहरण के लिए मॉडल की परफ़ॉर्मेंस को बेहतर बनाने के लिए, LoRA फ़ाइन-ट्यूनिंग ब्लॉक दें.
Gemini Nano को ऐक्सेस करने के लिए एपीआई, टेक्स्ट-टू-टेक्स्ट मोड में काम करते हैं. आने वाले समय में, ज़्यादा मोड उपलब्ध होंगे.
डिवाइस पर प्रोसेस करने के फ़ायदे
डिवाइस पर प्रोग्राम चलाने की सुविधा से ये काम किए जा सकते हैं:
- संवेदनशील डेटा को स्थानीय तौर पर प्रोसेस करना: डेटा को स्थानीय तौर पर प्रोसेस करने से, आपको उपयोगकर्ता का डेटा क्लाउड पर भेजने से बचने में मदद मिल सकती है. यह उन ऐप्लिकेशन के लिए ज़रूरी है जो संवेदनशील डेटा मैनेज करते हैं. जैसे, एंड-टू-एंड एन्क्रिप्शन (E2EE) की सुविधा वाले मैसेजिंग ऐप्लिकेशन.
- ऑफ़लाइन ऐक्सेस: इंटरनेट कनेक्शन न होने पर भी, उपयोगकर्ता एआई की सुविधाओं का इस्तेमाल कर सकते हैं. यह उन ऐप्लिकेशन के लिए फ़ायदेमंद है जिन्हें ऑफ़लाइन या अलग-अलग कनेक्टिविटी के साथ काम करना होता है.
- लागत में बचत: कन्ज़्यूमर हार्डवेयर पर एग्ज़ीक्यूशन को ऑफ़लोड करके, अनुमान लगाने की लागत को कम किया जा सकता है. इससे, अक्सर इस्तेमाल किए जाने वाले यूज़र फ़्लो के लिए काफ़ी बचत हो सकती है.
डिवाइस पर Gemini का इस्तेमाल करने के कई फ़ायदे हैं. हालांकि, जिन कामों के लिए बड़े Gemini मॉडल की ज़रूरत होती है और जिनमें कई तरह के डिवाइसों का इस्तेमाल करना होता है उनके लिए, सर्वर पर Gemini को ऐक्सेस करने के लिए Gemini API का इस्तेमाल किया जा सकता है. ऐसा, Python, Go, Node.js या REST के साथ बैकएंड इंटिग्रेशन की मदद से किया जा सकता है. इसके अलावा, Android के लिए Google के नए एआई क्लाइंट SDK टूल की मदद से, सीधे अपने Android ऐप्लिकेशन से भी ऐसा किया जा सकता है.
यह कैसे काम करता है
Gemini Nano को डिवाइस पर चलाने की सुविधा, Android AICore की मदद से काम करती है. यह सिस्टम-लेवल की एक नई सुविधा है. इससे, डिवाइस पर एआई के बुनियादी मॉडल को ऐक्सेस किया जा सकता है. यह सुविधा Android 14 में लॉन्च की गई थी. फ़ाउंडेशन मॉडल, AICore का इस्तेमाल करके पहले से इंस्टॉल होते हैं. इसलिए, आपको उन्हें अपने ऐप्लिकेशन में डाउनलोड या डिस्ट्रिब्यूट करने की ज़रूरत नहीं है. LoRa का इस्तेमाल करके, डाउनस्ट्रीम टास्क के लिए इन मॉडल को बेहतर बनाया जा सकता है. Android AICore, अब Google Pixel 8 Pro और Samsung S24 सीरीज़ के डिवाइसों पर, प्रोडक्शन के लिए उपलब्ध है. साथ ही, यह Google के ऐप्लिकेशन में पहले से ही नई सुविधाओं को बेहतर बना रहा है.
ज़्यादा जानकारी के लिए, Android AICore देखें.
आगे क्या करना है
- अपने Android ऐप्लिकेशन में, Google के सर्वर पर Gemini Pro के अनुमान लगाने की सुविधा का फ़ायदा पाने का तरीका जानने के लिए, Android के लिए Google के एआई क्लाइंट SDK टूल के इस्तेमाल से जुड़ी क्विकस्टार्ट लेख पढ़ें.