Gemini मॉडल फ़ैमिली का सबसे छोटा वर्शन Gemini Nano को, उन Android डिवाइसों पर डिवाइस पर इस्तेमाल किया जा सकता है जिन पर यह सुविधा काम करती है. इन डिवाइसों में Google Pixel 8 Pro और Samsung S24 Series शामिल हैं.
Android पर Gemini Nano मॉडल को चलाने के लिए, आपको Android के लिए Google AI Edge SDK का इस्तेमाल करना होगा. यह इन कामों के लिए एपीआई उपलब्ध कराता है:
- पता करें कि Android पर काम करने वाला डिवाइस काम करता है या नहीं.
- Gemini Nano मॉडल का ऐक्सेस पाएं.
- सुरक्षा सेटिंग ट्यून करें.
- अच्छी परफ़ॉर्मेंस पर अनुमान चलाएं और फ़ॉलबैक लागू करें.
- इसके अलावा, अपने इस्तेमाल के उदाहरण के हिसाब से मॉडल की परफ़ॉर्मेंस को बेहतर बनाने के लिए, LoRA की फ़ाइन-ट्यूनिंग ब्लॉक की सुविधा उपलब्ध कराई जा सकती है.
Gemini Nano को ऐक्सेस करने वाले एपीआई, टेक्स्ट-टू-टेक्स्ट मोडलिटी के साथ काम करते हैं. आने वाले समय में हम इस तरह के और भी तरीके अपनाएंगे.
उपयोगकर्ता के डिवाइस पर एक्ज़ीक्यूशन के फ़ायदे
डिवाइस पर एक्ज़ीक्यूशन की सुविधा, ये सुविधाएं चालू करती है:
- संवेदनशील डेटा को स्थानीय तौर पर प्रोसेस करना: डेटा को स्थानीय तौर पर प्रोसेस करने से, आपको उपयोगकर्ता के डेटा को क्लाउड पर भेजने से बचने में मदद मिल सकती है. यह उन ऐप्लिकेशन के लिए ज़रूरी है जो संवेदनशील जानकारी को मैनेज करते हैं, जैसे कि मैसेज सेवा ऐप्लिकेशन जो पूरी तरह सुरक्षित (E2EE) होते हैं.
- ऑफ़लाइन ऐक्सेस: इंटरनेट कनेक्शन न होने पर भी, उपयोगकर्ता एआई की सुविधाएं ऐक्सेस कर सकते हैं. यह उन ऐप्लिकेशन के लिए फ़ायदेमंद है जिन्हें ऑफ़लाइन या वैरिएबल कनेक्टिविटी के साथ काम करना पड़ता है.
- लागत की बचत: उपभोक्ताओं के हार्डवेयर पर एक्ज़ीक्यूशन को ऑफ़लोड करके, अनुमानित लागत कम की जा सकती है. इससे अक्सर इस्तेमाल किए जाने वाले यूज़र फ़्लो में काफ़ी बचत की जा सकती है.
डिवाइस पर Gemini को डिवाइस पर चलाने के कई फ़ायदे होते हैं. हालांकि, जिन मामलों में बड़े Gemini मॉडल की ज़रूरत होती है उनमें कई तरह के डिवाइस काम करते हैं. इसके लिए, सर्वर पर Gemini को ऐक्सेस करने के लिए Gemini API का इस्तेमाल किया जा सकता है. ऐसा बैकएंड इंटिग्रेशन (Python, Go, Node.js या REST के साथ) के ज़रिए किया जा सकता है. इसके अलावा, सीधे अपने Android ऐप्लिकेशन से Android के लिए, Google AI क्लाइंट SDK टूल के ज़रिए ऐसा किया जा सकता है.
यह कैसे काम करता है
डिवाइस पर Gemini Nano को चलाने के लिए, Android AICore की मदद ली जाती है. यह सिस्टम-लेवल की एक नई सुविधा है. इससे डिवाइस पर काम करने के लिए, फ़ाउंडेशन मॉडल का ऐक्सेस मिलता है. इसे Android 14 में लॉन्च किया गया था. फ़ाउंडेशन मॉडल, AICore का इस्तेमाल करके पहले से इंस्टॉल किए गए हैं इसलिए, आपको इन्हें ऐप्लिकेशन में डाउनलोड या डिस्ट्रिब्यूट करने की ज़रूरत नहीं है. LoRa का इस्तेमाल करके, डाउनस्ट्रीम टास्क के लिए इन मॉडल को बेहतर बनाया जा सकता है. Android AICore अब Google Pixel 8 Pro और Samsung S24 Series डिवाइस पर प्रोडक्शन के लिए उपलब्ध है. साथ ही, Google ऐप्लिकेशन में पहले से ही नई सुविधाओं को बेहतर बनाया जा रहा है.
ज़्यादा जानकारी के लिए, Android AICore देखें.
आगे क्या करना है
अपने ऐप्लिकेशन के साथ, डिवाइस पर Gemini Nano की सुविधा का इस्तेमाल करने के लिए, Android के Google AI Edge SDK के रिलीज़ होने से पहले इस्तेमाल के लिए उपलब्ध झलकपर लागू करें.
अपने Android ऐप्लिकेशन में, Google के सर्वर पर Gemini Pro के अनुमान का फ़ायदा पाने का तरीका जानने के लिए, Android के लिए Google एआई क्लाइंट SDK टूल का क्विकस्टार्ट लेख पढ़ें.