শেয়ার করুন

২৯ আগস্ট, ২০২৫

ইন্সটল: একটি এজেন্টিক এন্টারপ্রাইজ সার্চ ইঞ্জিন, যা জেমিনি দ্বারা চালিত।

অমিত শাহ

সিইও এবং সহ-প্রতিষ্ঠাতা, Instalily.ai

ম্যাট রিডেনোর

গুগলের অ্যাক্সিলারেটর এবং স্টার্টআপ ইকোসিস্টেম ইউএসএ-এর প্রধান

এজেন্টঅপস হিরো প্রদর্শন করে

জটিল কর্মপ্রবাহ, যেমন B2B বিক্রয় বা শিল্প রক্ষণাবেক্ষণ, স্বয়ংক্রিয় করে তোলে এমন এন্টারপ্রাইজ এআই এজেন্টদের জন্য বিপুল পরিমাণে উচ্চ-মানের, ডোমেন-নির্দিষ্ট ডেটার উপর প্রশিক্ষিত মডেলের প্রয়োজন হয়। অনেক কোম্পানির জন্য, এই ডেটা তৈরি করা একটি প্রাথমিক বাধা, কারণ ম্যানুয়াল লেবেলিং ধীর এবং ব্যয়বহুল, এবং জেনেরিক মডেলগুলিতে প্রয়োজনীয় সূক্ষ্মতার অভাব থাকতে পারে।

স্বায়ত্তশাসিত এবং উল্লম্ব AI এজেন্টদের জন্য একটি এন্টারপ্রাইজ প্ল্যাটফর্ম, InstaLILY AI , কোম্পানিগুলিকে বিক্রয়, পরিষেবা এবং পরিচালনার ক্ষেত্রে জটিল কর্মপ্রবাহ স্বয়ংক্রিয় এবং পরিচালনা করতে সহায়তা করে। তাদের একটি ক্লায়েন্ট, PartsTown-এর জন্য, তাদের AI এজেন্টদের জন্য একটি রিয়েল-টাইম সার্চ ইঞ্জিন তৈরি করতে হয়েছিল যাতে পঞ্চাশ লক্ষেরও বেশি আইটেমের ক্যাটালগ থেকে নির্দিষ্ট প্রতিস্থাপন যন্ত্রাংশের সাথে তাৎক্ষণিকভাবে ফিল্ড সার্ভিস টেকনিশিয়ানদের মেলানো যায়। এর জন্য মডেল প্রশিক্ষণের জন্য লক্ষ লক্ষ উচ্চ-মানের লেবেল তৈরি করার একটি স্কেলেবল উপায় প্রয়োজন।

এই সমস্যা সমাধানের জন্য, InstaLILY AI একটি মাল্টি-স্টেজ সিন্থেটিক ডেটা জেনারেশন পাইপলাইন তৈরি করেছে। পাইপলাইনটি শিক্ষক-শিক্ষার্থী স্থাপত্য ব্যবহার করে, যেখানে Gemini 2.5 Pro "শিক্ষক" মডেল হিসেবে কাজ করে সোনালী মানের প্রশিক্ষণ ডেটা তৈরি করে, এবং একটি সূক্ষ্ম-সুরক্ষিত Gemma মডেল "ছাত্র" হিসেবে কাজ করে যা স্কেলেবল, কম খরচে উৎপাদন স্থাপন সক্ষম করে।

স্কেলে বিশেষায়িত প্রশিক্ষণ তথ্য তৈরির চ্যালেঞ্জ

যন্ত্রাংশ অনুসন্ধান ইঞ্জিনের মূল অংশ হল একটি প্রাসঙ্গিক মডেল যা একজন পরিষেবা প্রযুক্তিবিদের প্রশ্নের (যেমন, "নর্থল্যান্ড রেফ্রিজারেটরের জন্য কম্প্রেসার") সঠিক অংশ সংখ্যার সাথে সংযুক্ত করে। এই মডেলটিকে প্রশিক্ষণের জন্য কোয়েরি-পার্ট জোড়ার একটি বিশাল ডেটাসেটের প্রয়োজন।

ঐতিহ্যবাহী পদ্ধতি ব্যবহার করে ইন্সটালি এআই বেশ কয়েকটি চ্যালেঞ্জের মুখোমুখি হয়েছিল:

  • স্কেলেবিলিটি: লক্ষ লক্ষ ওয়ার্ক-অর্ডার লাইন ম্যানুয়ালি লেবেল করা সম্ভব ছিল না।
  • খরচ এবং গুণমান: লেবেলিংয়ের জন্য অন্যান্য ফ্রন্টিয়ার মডেল ব্যবহার করা তিনগুণ বেশি ব্যয়বহুল ছিল এবং এর ফলে তাদের চূড়ান্ত সমাধানের তুলনায় চুক্তির হার ১৫% কম ছিল।
  • কর্মক্ষমতা: একটি লাইভ LLM-চালিত অনুসন্ধান খুব ধীর হবে, প্রাথমিক পরীক্ষাগুলিতে দুই মিনিটের বিলম্ব দেখা যাবে এবং উৎপাদনে প্রতি সেকেন্ডে প্রয়োজনীয় 500+ কোয়েরি (QPS) পরিচালনা করতে অক্ষম হবে।


তাদের এমন একটি সিস্টেমের প্রয়োজন ছিল যা সাশ্রয়ী মূল্যে উচ্চমানের ডেটা তৈরি করতে পারে, যা দ্রুত এবং নির্ভুলভাবে চূড়ান্ত মডেল তৈরি করতে পারে।

জেমিনি এবং জেমার সাথে একটি তিন-পর্যায়ের পাইপলাইন

Instalily AI একটি তিন-পর্যায়ের পাইপলাইন তৈরি করেছে যা উচ্চ-মানের লেবেল তৈরি করতে Gemini 2.5 Pro-এর উন্নত যুক্তি ব্যবহার করে এবং তারপর সেই জ্ঞানকে উৎপাদনের জন্য ছোট, আরও দক্ষ মডেলে পরিণত করে।

পাইপলাইনটি নিম্নরূপ কাজ করে:

  • সিন্থেটিক ডেটা জেনারেশন (টিচার মডেল): জেমিনি ২.৫ প্রো কোয়েরি-পার্ট জোড়ার জন্য সোনালী-মানক লেবেল তৈরি করে। উচ্চ নির্ভুলতা অর্জনের জন্য, Instalily AI মাল্টি-পার্সপেক্টিভ চেইন-অফ-থট (মাল্টি-কোট) যুক্তি ব্যবহার করে, যা মডেলটিকে ব্র্যান্ড, বিভাগ, স্পেসিফিকেশন এবং সামঞ্জস্যের জন্য জটিল ব্যবসায়িক যুক্তি সহ একাধিক কোণ থেকে অংশ বিশ্লেষণ করতে প্ররোচিত করে। এই পদ্ধতিটি একটি ব্লাইন্ড টেস্ট সেটে মানব বিশেষজ্ঞদের সাথে ৯৪% একমত হয়েছে।
  • ছাত্র মডেল প্রশিক্ষণ: জেমিনি 2.5 প্রো-এর উচ্চ-মানের লেবেলগুলি জেমা-7B-কে সূক্ষ্মভাবে সুরক্ষিত করার জন্য ব্যবহৃত হয়। ইন্সটালি এআই শিক্ষার্থী মডেলটিকে অপ্টিমাইজ করার জন্য বেশ কয়েকটি কৌশল ব্যবহার করেছে, যার মধ্যে রয়েছে ডাইরেক্ট প্রেফারেন্স অপ্টিমাইজেশন (DPO), যা 40% দ্বারা মিথ্যা পজিটিভ হ্রাস করেছে। তারা তিনটি সূক্ষ্মভাবে সুরক্ষিত জেমা ভেরিয়েন্টের একটি সমষ্টিও তৈরি করেছে যা প্রতিটি নমুনার উপর ভোট দেয়, লেবেলের নির্ভুলতা 96% এ বৃদ্ধি করে।
  • উৎপাদন পরিবেশন: জেমা মডেল থেকে প্রাপ্ত জ্ঞান চূড়ান্ত উৎপাদন পরিবেশের জন্য একটি হালকা ওজনের BERT মডেলে (১১০M প্যারামিটার) পাতিত করা হয়। এই ছোট মডেলটি ৬০০ QPS এ অনুরোধ পরিবেশন করার সময় ৮৯% F1-স্কোর নির্ভুলতা বজায় রাখে।


"আমাদের ডিস্টিল্ড মডেলকে বুটস্ট্র্যাপ করার জন্য LLM-এর চেইন-অফ-থট লেবেলিং ছাড়া, আমরা প্রচুর পরিমাণে ডেটা হ্যান্ড-ট্যাগ করতাম," InstaLILY AI টিম বলেছে। "জেমিনি উল্লেখযোগ্যভাবে ডেটা প্রস্তুতি ত্বরান্বিত করেছে এবং আমাদের শত শত ইঞ্জিনিয়ারিং ঘন্টাকে ফাইন-টিউনিং এবং অর্কেস্ট্রেশনের মতো উচ্চতর লিভারেজের কাজে পুনর্বণ্টন করার সুযোগ দিয়েছে।"

৯৯.৮% বিলম্ব এবং ৯৮.৩% খরচ কমানো

শিক্ষক-ছাত্র স্থাপত্যের ফলে গতি, খরচ এবং নির্ভুলতার ক্ষেত্রে উল্লেখযোগ্য উন্নতি হয়েছে।

চূড়ান্ত সিস্টেমটি অর্জন করা হয়েছে:

  • কোয়েরি ল্যাটেন্সি হ্রাস: ২ মিনিট থেকে ০.২ সেকেন্ড (৯৯.৮% উন্নতি)।
  • পরিবেশন খরচ হ্রাস: প্রতি ১০০০ প্রশ্নের জন্য $০.১২ থেকে $০.০০২ (৯৮.৩% হ্রাস)।
  • উচ্চ নির্ভুলতা: একটি ব্লাইন্ড হোল্ড-আউট ডেটাসেটে ~90% F1-স্কোর।


উন্নয়ন প্রক্রিয়াটিও ত্বরান্বিত করা হয়েছিল। দলটি ৪৮ ঘন্টার মধ্যে একটি প্রোটোটাইপ এবং চার সপ্তাহের মধ্যে একটি উৎপাদন-প্রস্তুত পাইপলাইন তৈরি করেছিল - তাদের অনুমান, জেমিনি এবং জেমা ইকোসিস্টেম ছাড়া এই প্রক্রিয়াটি তিন থেকে চার মাস সময় নিত।

" গুগল অ্যাক্সিলারেটরের অংশ হওয়া এই সম্পূর্ণ পদ্ধতির উন্মোচন করেছে," ইন্সটালির প্রতিষ্ঠাতা ও প্রধান নির্বাহী কর্মকর্তা অমিত শাহ বলেন। "ব্যবহারিক প্রযুক্তিগত সহায়তা, জেমিনি এবং জেমার প্রাথমিক অ্যাক্সেস এবং উদার ক্লাউড ক্রেডিট আমাদের কয়েক সপ্তাহের মধ্যে প্রোটোটাইপ থেকে উৎপাদনে যেতে সাহায্য করেছে - মাসের মধ্যে নয়।"

বহুমুখী এবং ধারাবাহিক শিক্ষার মাধ্যমে ভবিষ্যৎ উন্নয়ন

ইন্সটালি এআই জেমিনির মাল্টিমডাল বৈশিষ্ট্যগুলি অন্তর্ভুক্ত করে তার এআই এজেন্টদের ক্ষমতা বৃদ্ধি করার পরিকল্পনা করেছে। এর ফলে টেকনিশিয়ানরা রোগ নির্ণয়ে সহায়তা করার জন্য একটি ভাঙা ইউনিটের ছবি আপলোড করতে পারবেন। তারা একটি ক্রমাগত সক্রিয়-শিক্ষা পরিষেবাও তৈরি করছে যা কম আত্মবিশ্বাসী লাইভ প্রশ্নগুলিকে চিহ্নিত করে, টীকাটির জন্য জেমিনিতে পাঠায় এবং সাপ্তাহিকভাবে উৎপাদন মডেলগুলিকে পুনরায় প্রশিক্ষণ দেয়।

ইন্সটালি এআই-এর এআই এজেন্টদের জন্য সার্চ ইঞ্জিনের সাফল্য দেখায় যে কীভাবে শিক্ষক-শিক্ষার্থীর স্থাপত্য, জেমিনি ২.৫ প্রো-এর যুক্তিশক্তির সাথে সূক্ষ্মভাবে সুরক্ষিত জেমা মডেলের দক্ষতার সমন্বয়ে, জটিল ডেটা জেনারেশন চ্যালেঞ্জগুলি সমাধান করতে পারে এবং উচ্চ-কার্যক্ষমতাসম্পন্ন, স্কেলেবল এআই অ্যাপ্লিকেশনগুলিকে সক্ষম করতে পারে।

জেমিনি এবং জেমা মডেল দিয়ে তৈরি শুরু করতে, আমাদের API ডকুমেন্টেশন পড়ুন।

নেকড়ে গেম

উলফ গেমস তাদের দৈনন্দিন অপরাধের গল্পের জন্য কন্টেন্ট তৈরির নির্ভুলতা ৯৬% এ উন্নীত করতে এবং ল্যাটেন্সি ২০ সেকেন্ডের কমাতে জেমিনি এপিআই ব্যবহার করে।