টেনসরফ্লো লাইট

TensorFlow Lite হল এমন একটি টুলের সেট যা ডেভেলপারদের মোবাইল, এম্বেড করা এবং এজ ডিভাইসে তাদের মডেল চালাতে সাহায্য করে অন-ডিভাইস মেশিন লার্নিং সক্ষম করে।

মুখ্য সুবিধা

  • 5টি মূল সীমাবদ্ধতার সমাধান করে অন-ডিভাইস মেশিন লার্নিং এর জন্য অপ্টিমাইজ করা হয়েছে : লেটেন্সি (কোনও সার্ভারে কোনো রাউন্ড-ট্রিপ নেই), গোপনীয়তা (কোনও ব্যক্তিগত ডেটা ডিভাইস ছেড়ে যায় না), সংযোগ (ইন্টারনেট সংযোগের প্রয়োজন নেই), আকার (হ্রাস করা মডেল এবং বাইনারি আকার) এবং শক্তি খরচ (দক্ষ অনুমান এবং নেটওয়ার্ক সংযোগের অভাব)।
  • একাধিক প্ল্যাটফর্ম সমর্থন , অ্যান্ড্রয়েড এবং iOS ডিভাইস, এমবেডেড লিনাক্স এবং মাইক্রোকন্ট্রোলার কভার করে।
  • বিভিন্ন ভাষা সমর্থন , যার মধ্যে জাভা, সুইফট, অবজেক্টিভ-সি, সি++ এবং পাইথন রয়েছে।
  • হার্ডওয়্যার ত্বরণ এবং মডেল অপ্টিমাইজেশান সহ উচ্চ কর্মক্ষমতা ।

উন্নয়ন কর্মপ্রবাহ

নিম্নলিখিত নির্দেশিকা কর্মপ্রবাহের প্রতিটি ধাপের মধ্য দিয়ে চলে এবং আরও নির্দেশাবলীর লিঙ্ক প্রদান করে:

1. একটি টেনসরফ্লো লাইট মডেল তৈরি করুন৷

একটি TensorFlow Lite মডেলকে একটি বিশেষ দক্ষ পোর্টেবল ফরম্যাটে উপস্থাপন করা হয় যা FlatBuffers নামে পরিচিত ( .tflite ফাইল এক্সটেনশন দ্বারা চিহ্নিত)। এটি TensorFlow এর প্রোটোকল বাফার মডেল ফরম্যাটের উপর বিভিন্ন সুবিধা প্রদান করে যেমন ছোট আকার (ছোট কোড ফুটপ্রিন্ট) এবং দ্রুত অনুমান (একটি অতিরিক্ত পার্সিং/আনপ্যাকিং ধাপ ছাড়াই ডেটা সরাসরি অ্যাক্সেস করা হয়) যা TensorFlow Liteকে সীমিত কম্পিউট এবং মেমরি রিসোর্স সহ ডিভাইসগুলিতে দক্ষতার সাথে কার্যকর করতে সক্ষম করে। .

একটি টেনসরফ্লো লাইট মডেল ঐচ্ছিকভাবে মেটাডেটা অন্তর্ভুক্ত করতে পারে যেটিতে মানব-পাঠযোগ্য মডেলের বিবরণ এবং ডিভাইসে অনুমানের সময় প্রি- এবং পোস্ট-প্রসেসিং পাইপলাইনগুলির স্বয়ংক্রিয় প্রজন্মের জন্য মেশিন-পঠনযোগ্য ডেটা রয়েছে। আরো বিস্তারিত জানার জন্য মেটাডেটা যোগ করুন দেখুন।

আপনি নিম্নলিখিত উপায়ে একটি টেনসরফ্লো লাইট মডেল তৈরি করতে পারেন:

  • একটি বিদ্যমান TensorFlow Lite মডেল ব্যবহার করুন: একটি বিদ্যমান মডেল বাছাই করতে TensorFlow Lite উদাহরণগুলি পড়ুন। মডেলে মেটাডেটা থাকতে পারে বা নাও থাকতে পারে।

  • একটি টেনসরফ্লো মডেলকে টেনসরফ্লো লাইট মডেলে রূপান্তর করুন: একটি টেনসরফ্লো মডেলকে টেনসরফ্লো লাইট মডেলে রূপান্তর করতে টেনসরফ্লো লাইট কনভার্টার ব্যবহার করুন। রূপান্তরের সময়, আপনি অপ্টিমাইজেশান প্রয়োগ করতে পারেন যেমন কোয়ান্টাইজেশন মডেলের আকার কমাতে এবং লেটেন্সি কমাতে বা সঠিকতার কোন ক্ষতি না করে। ডিফল্টরূপে, সমস্ত মডেলে মেটাডেটা থাকে না।

2. অনুমান চালান

ইনফরেন্স বলতে ইনপুট ডেটার উপর ভিত্তি করে ভবিষ্যদ্বাণী করার জন্য ডিভাইসে টেনসরফ্লো লাইট মডেল চালানোর প্রক্রিয়াকে বোঝায়। আপনি মডেল প্রকারের উপর ভিত্তি করে নিম্নলিখিত উপায়ে অনুমান চালাতে পারেন:

Android এবং iOS ডিভাইসে, আপনি হার্ডওয়্যার ত্বরণ ব্যবহার করে কর্মক্ষমতা উন্নত করতে পারেন। উভয় প্ল্যাটফর্মে আপনি একটি GPU প্রতিনিধি ব্যবহার করতে পারেন, এবং iOS-এ আপনি কোর ML প্রতিনিধি ব্যবহার করতে পারেন। নতুন হার্ডওয়্যার এক্সিলারেটরের জন্য সমর্থন যোগ করতে, আপনি আপনার নিজস্ব প্রতিনিধিকে সংজ্ঞায়িত করতে পারেন।

এবার শুরু করা যাক

আপনি আপনার লক্ষ্য ডিভাইসের উপর ভিত্তি করে নিম্নলিখিত নির্দেশিকা উল্লেখ করতে পারেন:

প্রযুক্তিগত সীমাবদ্ধতা