Gemini Nano, Gemini মডেল পরিবারের সবচেয়ে ছোট সংস্করণ, Google Pixel 8 Pro এবং Samsung S24 সিরিজ থেকে শুরু করে সক্ষম অ্যান্ড্রয়েড ডিভাইসে অন-ডিভাইস চালানো যেতে পারে।
অ্যান্ড্রয়েডে জেমিনি ন্যানো মডেল চালানোর জন্য, আপনাকে অ্যান্ড্রয়েডের জন্য Google AI Edge SDK ব্যবহার করতে হবে, যা এগুলিকে API প্রদান করে:
- অন্তর্নিহিত Android-চালিত ডিভাইস সমর্থিত কিনা তা নির্ধারণ করুন।
- জেমিনি ন্যানো মডেল অ্যাক্সেস পান।
- নিরাপত্তা সেটিংস টিউন করুন।
- উচ্চ কার্যসম্পাদনে অনুমান চালান এবং ফলব্যাকগুলি প্রয়োগ করুন।
- ঐচ্ছিকভাবে, আপনার ব্যবহারের ক্ষেত্রে মডেলের কর্মক্ষমতা উন্নত করতে একটি LoRA ফাইন-টিউনিং ব্লক প্রদান করুন।
জেমিনি ন্যানো অ্যাক্সেস করার জন্য APIগুলি পাঠ্য-থেকে-টেক্সট মোডালিটি সমর্থন করে, ভবিষ্যতে আরও মোডালিটি আসবে।
অন-ডিভাইস এক্সিকিউশনের সুবিধা
অন-ডিভাইস এক্সিকিউশন নিম্নলিখিতগুলিকে সক্ষম করে:
- সংবেদনশীল ডেটার স্থানীয় প্রক্রিয়াকরণ : স্থানীয়ভাবে ডেটা প্রক্রিয়াকরণ আপনাকে ক্লাউডে ব্যবহারকারীর ডেটা পাঠানো এড়াতে সহায়তা করতে পারে। সংবেদনশীল ডেটা পরিচালনা করে এমন অ্যাপগুলির জন্য এটি গুরুত্বপূর্ণ, যেমন এন্ড-টু-এন্ড এনক্রিপশন সহ মেসেজিং অ্যাপ।
- অফলাইন অ্যাক্সেস : ইন্টারনেট সংযোগ না থাকলেও ব্যবহারকারীরা AI বৈশিষ্ট্যগুলি অ্যাক্সেস করতে পারেন। এটি এমন অ্যাপ্লিকেশনগুলির জন্য দরকারী যেগুলি অফলাইনে বা পরিবর্তনশীল সংযোগ সহ কাজ করতে হবে৷
- খরচ সঞ্চয় : আপনি ভোক্তা হার্ডওয়্যারে এক্সিকিউশন অফলোড করে অনুমান খরচ কমাতে পারেন। এটি প্রায়শই ব্যবহৃত ব্যবহারকারী প্রবাহের জন্য উল্লেখযোগ্য সঞ্চয় করতে পারে।
মিথুনের অন-ডিভাইস সম্পাদনের অনেক সুবিধা রয়েছে; যাইহোক, যে ক্ষেত্রে বৃহত্তর জেমিনি মডেলের প্রয়োজন হয় এবং বিভিন্ন ধরনের ডিভাইস সমর্থন করার জন্য, আপনি সার্ভারে Gemini অ্যাক্সেস করার জন্য Gemini API ব্যবহার করার কথা বিবেচনা করতে পারেন। আপনি এটি করতে পারেন ব্যাকএন্ড ইন্টিগ্রেশনের মাধ্যমে ( Python , Go , Node.js , বা REST এর সাথে) অথবা সরাসরি আপনার Android অ্যাপ থেকে Android এর জন্য নতুন Google AI ক্লায়েন্ট SDK- এর মাধ্যমে।
কিভাবে এটা কাজ করে
জেমিনি ন্যানো-এর অন-ডিভাইস এক্সিকিউশন অ্যান্ড্রয়েড AICore দ্বারা চালিত, একটি নতুন সিস্টেম-লেভেল ক্ষমতা যা Android 14-এ চালু করা অন-ডিভাইস এক্সিকিউশনের জন্য ফাউন্ডেশন মডেলগুলিতে অ্যাক্সেস প্রদান করে। ফাউন্ডেশন মডেলগুলি AICore ব্যবহার করে আগে থেকে ইনস্টল করা আছে, তাই আপনি এটি করবেন না আপনার অ্যাপের মধ্যে সেগুলি ডাউনলোড বা বিতরণ করতে হবে। আপনি LoRa ব্যবহার করে ডাউনস্ট্রিম কাজের জন্য এই মডেলগুলিকে ফাইন-টিউন করতে পারেন। Android AICore এখন Google Pixel 8 Pro এবং Samsung S24 সিরিজ ডিভাইসে উৎপাদনে উপলব্ধ এবং ইতিমধ্যেই Google অ্যাপে উদ্ভাবনী বৈশিষ্ট্যগুলিকে শক্তি দিচ্ছে।
আরও তথ্যের জন্য, Android AICore দেখুন।
এরপর কি
আপনার অ্যাপের সাথে ডিভাইসে Gemini Nano ব্যবহার শুরু করতে, Android এর জন্য Google AI Edge SDK-এর আমাদের আর্লি অ্যাক্সেস প্রিভিউতে আবেদন করুন ।
আপনার অ্যান্ড্রয়েড অ্যাপে গুগলের সার্ভারে জেমিনি প্রো ইনফারেন্সের সুবিধা কীভাবে নেওয়া যায় তা শিখতে, Android এর জন্য Google AI ক্লায়েন্ট SDK-এর জন্য দ্রুত স্টার্ট পড়ুন।