Android এর জন্য LiteRT

LiterRT আপনাকে আপনার অ্যান্ড্রয়েড অ্যাপগুলিতে TensorFlow, PyTorch এবং JAX মডেলগুলি চালাতে দেয়। LiterRT সিস্টেমটি অ্যান্ড্রয়েডে দ্রুত এবং দক্ষতার সাথে মডেলগুলি চালানোর জন্য পূর্বনির্ধারিত এবং কাস্টমাইজযোগ্য এক্সিকিউশন পরিবেশ সরবরাহ করে, যার মধ্যে হার্ডওয়্যার ত্বরণের বিকল্পগুলিও অন্তর্ভুক্ত রয়েছে।

উদাহরণস্বরূপ, LiteRT ব্যবহার করে এমন অ্যান্ড্রয়েড অ্যাপ্লিকেশনগুলির জন্য, LiteRT নমুনা সংগ্রহস্থলটি দেখুন।

মেশিন লার্নিং মডেল

Litert TensorFlow, PyTorch এবং JAX মডেল ব্যবহার করে যেগুলো ছোট, পোর্টেবল, আরও দক্ষ মেশিন লার্নিং মডেল ফরম্যাটে রূপান্তরিত হয়। আপনি Android-এ Litert দিয়ে প্রি-বিল্ট মডেল ব্যবহার করতে পারেন, অথবা আপনার নিজস্ব মডেল তৈরি করে Litert ফর্ম্যাটে রূপান্তর করতে পারেন।

এই পৃষ্ঠায় ইতিমধ্যেই তৈরি মেশিন লার্নিং মডেল ব্যবহার নিয়ে আলোচনা করা হয়েছে এবং মডেল তৈরি, প্রশিক্ষণ, পরীক্ষা বা রূপান্তর করা কভার করা হয়নি। LiterRT-এর জন্য মেশিন লার্নিং মডেল বাছাই, পরিবর্তন, নির্মাণ এবং রূপান্তর করা সম্পর্কে আরও জানুন মডেল পৃষ্ঠায়।

অ্যান্ড্রয়েডে মডেল চালান

একটি অ্যান্ড্রয়েড অ্যাপের ভেতরে চলমান একটি LiterRT মডেল ডেটা গ্রহণ করে, ডেটা প্রক্রিয়া করে এবং মডেলের লজিকের উপর ভিত্তি করে একটি ভবিষ্যদ্বাণী তৈরি করে। একটি LiterRT মডেল কার্যকর করার জন্য একটি বিশেষ রানটাইম পরিবেশের প্রয়োজন হয় এবং মডেলে যে ডেটা প্রেরণ করা হয় তা অবশ্যই একটি নির্দিষ্ট ডেটা ফর্ম্যাটে থাকতে হবে, যাকে বলা হয় টেনসর । যখন একটি মডেল ডেটা প্রক্রিয়া করে, যাকে রানিং ইনফারেন্স বলা হয়, তখন এটি নতুন টেনসর হিসাবে ভবিষ্যদ্বাণী ফলাফল তৈরি করে এবং সেগুলিকে অ্যান্ড্রয়েড অ্যাপে প্রেরণ করে যাতে এটি কোনও ব্যবহারকারীকে ফলাফল দেখানো বা অতিরিক্ত ব্যবসায়িক লজিক কার্যকর করার মতো পদক্ষেপ নিতে পারে।

চিত্র ১. অ্যান্ড্রয়েড অ্যাপে LiterRT মডেলের জন্য কার্যকরী কার্যকরীকরণ প্রবাহ।

কার্যকরী নকশা স্তরে, আপনার অ্যান্ড্রয়েড অ্যাপের একটি LiterRT মডেল চালানোর জন্য নিম্নলিখিত উপাদানগুলির প্রয়োজন:

• মডেলটি কার্যকর করার জন্য LiterRT রানটাইম পরিবেশ
• ডেটাকে টেনসরে রূপান্তর করার জন্য মডেল ইনপুট হ্যান্ডলার
• আউটপুট ফলাফল টেনসর গ্রহণ এবং পূর্বাভাস ফলাফল হিসাবে ব্যাখ্যা করার জন্য মডেল আউটপুট হ্যান্ডলার

নিম্নলিখিত বিভাগগুলিতে বর্ণনা করা হয়েছে কিভাবে LiterRT লাইব্রেরি এবং সরঞ্জামগুলি এই কার্যকরী উপাদানগুলি প্রদান করে।

LiterRT দিয়ে অ্যাপ তৈরি করুন

এই বিভাগটি আপনার অ্যান্ড্রয়েড অ্যাপে LiterRT বাস্তবায়নের জন্য প্রস্তাবিত, সবচেয়ে সাধারণ পথ বর্ণনা করে। রানটাইম পরিবেশ এবং ডেভেলপমেন্ট লাইব্রেরি বিভাগগুলিতে আপনার সবচেয়ে বেশি মনোযোগ দেওয়া উচিত। যদি আপনি একটি কাস্টম মডেল তৈরি করে থাকেন, তাহলে উন্নত উন্নয়ন পথ বিভাগটি পর্যালোচনা করতে ভুলবেন না।

রানটাইম পরিবেশের বিকল্পগুলি

আপনার অ্যান্ড্রয়েড অ্যাপে মডেলগুলি কার্যকর করার জন্য রানটাইম পরিবেশ সক্ষম করার বিভিন্ন উপায় রয়েছে। এগুলি পছন্দের বিকল্পগুলি:

• গুগল প্লে সার্ভিস রানটাইম পরিবেশে LiterRT (প্রস্তাবিত)
• স্বতন্ত্র LiteRT রানটাইম পরিবেশ

সাধারণভাবে, আপনার Google Play পরিষেবাগুলি দ্বারা প্রদত্ত রানটাইম পরিবেশ ব্যবহার করা উচিত কারণ এটি স্ট্যান্ডার্ড পরিবেশের তুলনায় বেশি স্থান-সাশ্রয়ী কারণ এটি গতিশীলভাবে লোড হয়, আপনার অ্যাপের আকার ছোট রাখে। Google Play পরিষেবাগুলি স্বয়ংক্রিয়ভাবে LiterRT রানটাইমের সাম্প্রতিকতম, স্থিতিশীল রিলিজ ব্যবহার করে, যা আপনাকে অতিরিক্ত বৈশিষ্ট্য এবং সময়ের সাথে সাথে উন্নত কর্মক্ষমতা প্রদান করে। আপনি যদি এমন ডিভাইসে আপনার অ্যাপ অফার করেন যেখানে Google Play পরিষেবা অন্তর্ভুক্ত নেই অথবা আপনার ML রানটাইম পরিবেশটি নিবিড়ভাবে পরিচালনা করতে হয়, তাহলে আপনার স্ট্যান্ডার্ড LiterRT রানটাইম ব্যবহার করা উচিত। এই বিকল্পটি আপনার অ্যাপে অতিরিক্ত কোড একত্রিত করে, যা আপনার অ্যাপের ডাউনলোড আকার বাড়ানোর খরচে আপনার অ্যাপের ML রানটাইমের উপর আরও নিয়ন্ত্রণ রাখতে সাহায্য করে।

আপনার অ্যাপ ডেভেলপমেন্ট এনভায়রনমেন্টে LiterRT ডেভেলপমেন্ট লাইব্রেরি যোগ করে আপনি আপনার অ্যান্ড্রয়েড অ্যাপের এই রানটাইম এনভায়রনমেন্টগুলি অ্যাক্সেস করতে পারেন। আপনার অ্যাপে স্ট্যান্ডার্ড রানটাইম এনভায়রনমেন্টগুলি কীভাবে ব্যবহার করবেন সে সম্পর্কে তথ্যের জন্য, পরবর্তী বিভাগটি দেখুন।

লাইব্রেরি

আপনি Google Play পরিষেবা ব্যবহার করে ইন্টারপ্রেটার API অ্যাক্সেস করতে পারেন। আপনি আপনার অ্যান্ড্রয়েড অ্যাপে LiterRT কোর এবং সাপোর্ট লাইব্রেরি ব্যবহার করতে পারেন। LiterRT লাইব্রেরি এবং রানটাইম পরিবেশ ব্যবহার সম্পর্কে প্রোগ্রামিং বিশদের জন্য, Android এর জন্য ডেভেলপমেন্ট টুল দেখুন।

মডেলগুলি পান

একটি অ্যান্ড্রয়েড অ্যাপে একটি মডেল চালানোর জন্য একটি Litert-ফরম্যাট মডেল প্রয়োজন। আপনি পূর্বনির্মিত মডেল ব্যবহার করতে পারেন অথবা একটি তৈরি করে লাইট ফর্ম্যাটে রূপান্তর করতে পারেন। আপনার অ্যান্ড্রয়েড অ্যাপের জন্য মডেলগুলি কীভাবে সংগ্রহ করবেন সে সম্পর্কে আরও তথ্যের জন্য, Litert মডেল পৃষ্ঠাটি দেখুন।

ইনপুট ডেটা পরিচালনা করুন

আপনি যে কোনও ডেটা একটি ML মডেলে পাস করবেন তা অবশ্যই একটি নির্দিষ্ট ডেটা স্ট্রাকচার সহ একটি টেনসর হতে হবে, যাকে প্রায়শই টেনসরের আকৃতি বলা হয়। একটি মডেলের সাথে ডেটা প্রক্রিয়া করার জন্য, আপনার অ্যাপ কোডকে অবশ্যই তার নেটিভ ফর্ম্যাট, যেমন ছবি, টেক্সট বা অডিও ডেটা থেকে আপনার মডেলের জন্য প্রয়োজনীয় আকারে একটি টেনসরে রূপান্তর করতে হবে।

অনুমান চালান

একটি মডেলের মাধ্যমে ডেটা প্রক্রিয়াকরণ করে একটি ভবিষ্যদ্বাণী ফলাফল তৈরি করাকে ইনফারেন্স চালানো বলা হয়। একটি অ্যান্ড্রয়েড অ্যাপে ইনফারেন্স চালানোর জন্য একটি LiterRT রানটাইম পরিবেশ , একটি মডেল এবং ইনপুট ডেটা প্রয়োজন।

একটি মডেল একটি নির্দিষ্ট ডিভাইসে কত গতিতে অনুমান তৈরি করতে পারে তা নির্ভর করে প্রক্রিয়াকৃত ডেটার আকার, মডেলের জটিলতা এবং মেমরি এবং CPU-এর মতো উপলব্ধ কম্পিউটিং রিসোর্স, অথবা অ্যাক্সিলারেটর নামক বিশেষায়িত প্রসেসরের উপর। মেশিন লার্নিং মডেলগুলি গ্রাফিক্স প্রসেসিং ইউনিট (GPU) এবং টেনসর প্রসেসিং ইউনিট (TPU) এর মতো বিশেষায়িত প্রসেসরে দ্রুত চলতে পারে, LiteRT হার্ডওয়্যার ড্রাইভার ব্যবহার করে যাদের ডেলিগেট বলা হয়। মডেল প্রসেসিংয়ের ডেলিগেট এবং হার্ডওয়্যার অ্যাক্সিলারেশন সম্পর্কে আরও তথ্যের জন্য, হার্ডওয়্যার অ্যাক্সিলারেশন ওভারভিউ দেখুন।

আউটপুট ফলাফল পরিচালনা করুন

মডেলগুলি টেনসর হিসেবে ভবিষ্যদ্বাণীর ফলাফল তৈরি করে, যা আপনার অ্যান্ড্রয়েড অ্যাপ দ্বারা পদক্ষেপ গ্রহণ করে বা ব্যবহারকারীর কাছে ফলাফল প্রদর্শন করে পরিচালনা করতে হবে। মডেল আউটপুট ফলাফলগুলি একটি চিত্র শ্রেণীবিভাগের জন্য একটি একক ফলাফলের সাথে সম্পর্কিত একটি সংখ্যা (0 = কুকুর, 1 = বিড়াল, 2 = পাখি) এর মতো সহজ হতে পারে, আরও জটিল ফলাফলের মতো, যেমন একটি চিত্রের বেশ কয়েকটি শ্রেণীবদ্ধ বস্তুর জন্য একাধিক বাউন্ডিং বাক্স, যার ভবিষ্যদ্বাণীর আত্মবিশ্বাসের রেটিং 0 এবং 1 এর মধ্যে থাকে।

উন্নত উন্নয়নের পথ

আরও পরিশীলিত এবং কাস্টমাইজড LiteRT মডেল ব্যবহার করার সময়, আপনাকে উপরে বর্ণিত পদ্ধতির চেয়ে আরও উন্নত উন্নয়ন পদ্ধতি ব্যবহার করতে হতে পারে। নিম্নলিখিত বিভাগগুলিতে Android অ্যাপগুলিতে LiteRT-এর জন্য মডেলগুলি কার্যকর করার এবং সেগুলি বিকাশের জন্য উন্নত কৌশলগুলি বর্ণনা করা হয়েছে।

উন্নত রানটাইম পরিবেশ

LiteRT-এর জন্য স্ট্যান্ডার্ড রানটাইম এবং Google Play পরিষেবা রানটাইম পরিবেশ ছাড়াও, আপনার অ্যান্ড্রয়েড অ্যাপের সাথে আপনি অতিরিক্ত রানটাইম পরিবেশ ব্যবহার করতে পারেন। এই পরিবেশগুলির জন্য সবচেয়ে বেশি ব্যবহার করা যেতে পারে যদি আপনার এমন একটি মেশিন লার্নিং মডেল থাকে যা ML অপারেশন ব্যবহার করে যা LiteRT-এর জন্য স্ট্যান্ডার্ড রানটাইম পরিবেশ দ্বারা সমর্থিত নয়।

• LiterRT এর জন্য ফ্লেক্স রানটাইম
• কাস্টম-বিল্ট LiterRT রানটাইম

LiteRT Flex রানটাইম আপনাকে আপনার মডেলের জন্য প্রয়োজনীয় নির্দিষ্ট অপারেটর অন্তর্ভুক্ত করতে দেয়। আপনার মডেল চালানোর জন্য একটি উন্নত বিকল্প হিসাবে, আপনি আপনার TensorFlow মেশিন লার্নিং মডেল চালানোর জন্য প্রয়োজনীয় অপারেটর এবং অন্যান্য কার্যকারিতা অন্তর্ভুক্ত করার জন্য Android এর জন্য LiteRT তৈরি করতে পারেন। আরও তথ্যের জন্য, Build LiteRT for Android দেখুন।

সি এবং সি++ এপিআই

LiterRT C এবং C++ ব্যবহার করে মডেল চালানোর জন্য একটি APIও প্রদান করে। যদি আপনার অ্যাপটি Android NDK ব্যবহার করে, তাহলে আপনার এই API ব্যবহার করার কথা বিবেচনা করা উচিত। আপনি যদি একাধিক প্ল্যাটফর্মের মধ্যে কোড শেয়ার করতে চান তবে আপনি এই API ব্যবহার করার কথাও বিবেচনা করতে পারেন। এই ডেভেলপমেন্ট বিকল্প সম্পর্কে আরও তথ্যের জন্য, ডেভেলপমেন্ট টুলস পৃষ্ঠাটি দেখুন।

সার্ভার-ভিত্তিক মডেল এক্সিকিউশন

সাধারণভাবে, আপনার ব্যবহারকারীদের জন্য কম ল্যাটেন্সি এবং উন্নত ডেটা গোপনীয়তার সুবিধা নিতে আপনার অ্যাপে একটি অ্যান্ড্রয়েড ডিভাইসে মডেল চালানো উচিত। তবে, এমন কিছু ক্ষেত্রে আছে যেখানে ক্লাউড সার্ভারে, ডিভাইসের বাইরে, একটি মডেল চালানো একটি ভাল সমাধান। উদাহরণস্বরূপ, যদি আপনার একটি বড় মডেল থাকে যা আপনার ব্যবহারকারীদের অ্যান্ড্রয়েড ডিভাইসে ফিট করে এমন আকারে সহজেই সংকুচিত হয় না, অথবা সেই ডিভাইসগুলিতে যুক্তিসঙ্গত পারফরম্যান্সের সাথে কার্যকর করা যেতে পারে। যদি বিভিন্ন ডিভাইসে মডেলের ধারাবাহিক পারফরম্যান্সকে সর্বোচ্চ অগ্রাধিকার দেওয়া হয় তবে এই পদ্ধতিটি আপনার পছন্দের সমাধান হতে পারে।

গুগল ক্লাউড এআই মডেল চালানোর জন্য সম্পূর্ণ পরিষেবা প্রদান করে। আরও তথ্যের জন্য, গুগল ক্লাউডের এআই এবং মেশিন লার্নিং পণ্য পৃষ্ঠাটি দেখুন।

কাস্টম মডেল ডেভেলপমেন্ট এবং অপ্টিমাইজেশন

আরও উন্নত উন্নয়নের পথগুলির মধ্যে কাস্টম মেশিন লার্নিং মডেল তৈরি করা এবং অ্যান্ড্রয়েড ডিভাইসে ব্যবহারের জন্য সেই মডেলগুলিকে অপ্টিমাইজ করা অন্তর্ভুক্ত থাকতে পারে। আপনি যদি কাস্টম মডেল তৈরি করার পরিকল্পনা করেন, তাহলে মেমরি এবং প্রক্রিয়াকরণ খরচ কমাতে মডেলগুলিতে কোয়ান্টাইজেশন কৌশল প্রয়োগ করার কথা বিবেচনা করুন। LiteRT-এর সাথে ব্যবহারের জন্য উচ্চ-কার্যক্ষমতাসম্পন্ন মডেল কীভাবে তৈরি করবেন সে সম্পর্কে আরও তথ্যের জন্য, মডেল বিভাগে পারফরম্যান্সের সেরা অনুশীলনগুলি দেখুন।

সমর্থিত অ্যান্ড্রয়েড সংস্করণ

গুরুত্বপূর্ণ: সর্বশেষ বৈশিষ্ট্য এবং নিরাপত্তা আপডেটের সাথে সামঞ্জস্য নিশ্চিত করতে আপনার নির্ভরতাগুলি আপ টু ডেট রাখুন।