স্কেলে অন-ডিভাইস মেশিন লার্নিং (এমএল) পরীক্ষা এবং বেঞ্চমার্কিংয়ের জন্য এআই এজের গুগল ক্লাউড সলিউশন।
বিভিন্ন মোবাইল ডিভাইসে ML মডেলের পারফরম্যান্স অপ্টিমাইজ করা চ্যালেঞ্জিং হতে পারে। ম্যানুয়াল টেস্টিং ধীর, ব্যয়বহুল এবং প্রায়শই বেশিরভাগ ডেভেলপারদের কাছে অ্যাক্সেসযোগ্য নয়, যার ফলে বাস্তব-বিশ্বের মডেলের পারফরম্যান্সে অনিশ্চয়তা দেখা দেয়। Google AI Edge Portal বিস্তৃত মোবাইল ডিভাইস জুড়ে LiterRT মডেল বেঞ্চমার্কিং সক্ষম করে এই সমস্যার সমাধান করে, যা ডেভেলপারদের বৃহৎ-স্কেল ML মডেল স্থাপনের জন্য সেরা কনফিগারেশন খুঁজে পেতে সহায়তা করে।
মোবাইল এমএল স্থাপনার অপ্টিমাইজেশন
বিভিন্ন হার্ডওয়্যার ল্যান্ডস্কেপ জুড়ে পরীক্ষার চক্রকে সরলীকৃত এবং ত্বরান্বিত করুন : কয়েক মিনিটের মধ্যে শত শত প্রতিনিধিত্বমূলক মোবাইল ডিভাইস জুড়ে মডেলের কর্মক্ষমতা অনায়াসে মূল্যায়ন করুন।
মডেলের গুণমান সক্রিয়ভাবে নিশ্চিত করুন এবং সমস্যাগুলি আগে থেকেই সনাক্ত করুন : স্থাপনের আগে হার্ডওয়্যার-নির্দিষ্ট কর্মক্ষমতা বৈচিত্র্য বা রিগ্রেশন (যেমন নির্দিষ্ট চিপসেট বা মেমরি-সীমাবদ্ধ ডিভাইসগুলিতে) চিহ্নিত করুন।
ডিভাইস পরীক্ষার খরচ কম এবং সর্বশেষ হার্ডওয়্যার অ্যাক্সেস করুন : আপনার নিজস্ব ল্যাব রক্ষণাবেক্ষণের ব্যয় এবং জটিলতা ছাড়াই বৈচিত্র্যময় এবং ক্রমাগত ক্রমবর্ধমান ভৌত ডিভাইসের বহরে (বর্তমানে বিভিন্ন অ্যান্ড্রয়েড OEM থেকে 100+ ডিভাইস মডেল) পরীক্ষা করুন।
শক্তিশালী, ডেটা-চালিত সিদ্ধান্ত এবং ব্যবসায়িক বুদ্ধিমত্তা আনলক করুন : গুগল এআই এজ পোর্টাল সমৃদ্ধ কর্মক্ষমতা ডেটা এবং তুলনা সরবরাহ করে, যা মডেল অপ্টিমাইজেশনকে আত্মবিশ্বাসের সাথে পরিচালনা করতে এবং স্থাপনার প্রস্তুতি যাচাই করার জন্য প্রয়োজনীয় গুরুত্বপূর্ণ ব্যবসায়িক বুদ্ধিমত্তা প্রদান করে।
উদাহরণ বেঞ্চমার্ক:
গুগল এআই এজ পোর্টাল কীভাবে আপনার LiterRT মডেলগুলিকে বেঞ্চমার্ক করতে সাহায্য করে
ডিভাইস নির্বাচন করুন : নির্দিষ্ট হার্ডওয়্যার ফিল্টার ব্যবহার করে আমাদের বিস্তৃত পুল থেকে আপনার লক্ষ্য ডিভাইসগুলি নির্বাচন করুন—যার মধ্যে রয়েছে NPU সমর্থন, ডিভাইস স্তর, ব্র্যান্ড, চিপসেট এবং RAM। বিকল্পভাবে, জনপ্রিয় ডিভাইস তালিকাগুলিতে তাৎক্ষণিক অ্যাক্সেসের জন্য আমাদের কিউরেটেড শর্টকাটগুলি ব্যবহার করুন।
কনফিগারেশন তৈরি করুন : আপনার বেঞ্চমার্কিং কাজের জন্য CPU, GPU, অথবা NPU অ্যাক্সিলারেটরের মধ্যে বেছে নিন।
উন্নত কাস্টমাইজেশন : আপনার নির্বাচিত অ্যাক্সিলারেটরের জন্য হার্ডওয়্যার-নির্দিষ্ট সেটিংস সামঞ্জস্য করুন অথবা ডিফল্ট মান দিয়ে এগিয়ে যান।
NPU সাপোর্ট : হার্ডওয়্যার অ্যাক্সিলারেশন ক্ষমতার মধ্যে এখন NPU অন্তর্ভুক্ত, যার মধ্যে 30+ Qualcomm ডিভাইসের একটি বহর রয়েছে।
- Ahead-Of-Time (AOT) সংকলন : উৎপাদন-স্তরের কর্মক্ষমতার জন্য প্রস্তাবিত, যা উল্লেখযোগ্যভাবে দ্রুত প্রারম্ভিককরণ এবং কম মেমরি ফুটপ্রিন্ট প্রদান করে। এই মোডের জন্য আপনার ডিভাইস নির্বাচনের প্রতিটি অনন্য SoC-এর জন্য সংকলিত মডেল সরবরাহ করা প্রয়োজন।
- জাস্ট-ইন-টাইম (JIT) সংকলন : নির্বাচিত ডিভাইসগুলিতে সংকলনের জন্য একটি একক মডেল সমর্থন করে।
মডেল আপলোড করুন : UI ব্যবহার করে আপনার মডেল ফাইল আপলোড করুন অথবা আপনার Google ক্লাউড স্টোরেজ বাকেটে এটি নির্দেশ করুন।
১০০+ ডিভাইসে একটি নতুন বেঞ্চমার্ক জব তৈরি করুন। (দ্রষ্টব্য: GIF দ্রুততর করা হয়েছে এবং সংক্ষিপ্ততার জন্য সম্পাদনা করা হয়েছে)
সেখান থেকে, আপনার কাজ জমা দিন এবং সমাপ্তির জন্য অপেক্ষা করুন। প্রস্তুত হয়ে গেলে, ইন্টারেক্টিভ ড্যাশবোর্ডে ফলাফলগুলি অন্বেষণ করুন:
কনফিগারেশনের তুলনা করুন : সমস্ত পরীক্ষিত ডিভাইসে বিভিন্ন অ্যাক্সিলারেটর ব্যবহার করার সময় পারফরম্যান্স মেট্রিক্স (যেমন, গড় ল্যাটেন্সি, পিক মেমোরি) কীভাবে আলাদা হয় তা দ্রুত কল্পনা করুন।
ডিভাইসের প্রভাব বিশ্লেষণ করুন : নির্বাচিত ডিভাইসের পরিসরে একটি নির্দিষ্ট মডেল কনফিগারেশন কীভাবে কাজ করে তা দেখুন। ডিভাইসের বৈশিষ্ট্যের সাথে সম্পর্কিত পারফরম্যান্সের বৈচিত্রগুলি দ্রুত সনাক্ত করতে হিস্টোগ্রাম এবং স্ক্যাটার প্লট ব্যবহার করুন।
বিস্তারিত মেট্রিক্স : প্রতিটি ডিভাইসের জন্য নির্দিষ্ট মেট্রিক্স (শুরু করার সময়, অনুমানের বিলম্ব, মেমরি ব্যবহার) সহ একটি বিস্তারিত, সাজানোর সারণী অ্যাক্সেস করুন, তার হার্ডওয়্যার স্পেসিফিকেশন সহ। অ্যাক্সিলারেটর অ্যালোকেশন টেবিলের সাহায্যে হার্ডওয়্যার ব্যবহার যাচাই করুন, যা দেখায় যে মডেল অপারেশনগুলি কার্নেলগুলিতে কীভাবে বিতরণ করা হয় (CPU এবং GPU এর জন্য উপলব্ধ, NPU সমর্থন শীঘ্রই আসছে)।
ইন্টারেক্টিভ ড্যাশবোর্ডে বেঞ্চমার্ক ফলাফল দেখুন। (দ্রষ্টব্য: GIF ত্বরান্বিত এবং সংক্ষিপ্ততার জন্য সম্পাদনা করা হয়েছে)
গুগল এআই এজ পোর্টালের প্রাইভেট প্রিভিউতে যোগ দিন
অনুমোদিত তালিকাভুক্ত গুগল ক্লাউড গ্রাহকদের জন্য গুগল এআই এজ পোর্টালটি ব্যক্তিগত প্রিভিউতে উপলব্ধ। এই ব্যক্তিগত প্রিভিউ সময়কালে, প্রিভিউ শর্তাবলী সাপেক্ষে, কোনও চার্জ ছাড়াই অ্যাক্সেস প্রদান করা হবে।
এই প্রিভিউটি LiterRT ব্যবহার করে মোবাইল ML অ্যাপ্লিকেশন তৈরি করা ডেভেলপার এবং টিমগুলির জন্য আদর্শ, যাদের বিভিন্ন অ্যান্ড্রয়েড হার্ডওয়্যার জুড়ে নির্ভরযোগ্য বেঞ্চমার্কিং ডেটার প্রয়োজন এবং পণ্যের ভবিষ্যত গঠনে সহায়তা করার জন্য প্রতিক্রিয়া প্রদান করতে ইচ্ছুক। অ্যাক্সেসের অনুরোধ করতে, আগ্রহ প্রকাশ করতে এখানে আমাদের সাইন-আপ ফর্মটি পূরণ করুন। অ্যালোলিস্টিংয়ের মাধ্যমে অ্যাক্সেস দেওয়া হয়।