জেমিনি ২.৫ ফ্ল্যাশ ব্যবহার করে রেইনড্রপ স্কেলে এআই এজেন্টের কর্মক্ষমতা পর্যবেক্ষণ করে

ঐতিহ্যবাহী সফটওয়্যারের তুলনায় এআই এজেন্টরা অনন্য পর্যবেক্ষণ চ্যালেঞ্জ উপস্থাপন করে। এআই সিস্টেমের ব্যর্থতা প্রায়শই "নীরব" থাকে, যার অর্থ তারা স্ট্যান্ডার্ড ব্যতিক্রম বা ত্রুটি তৈরি করতে পারে না, যা ইঞ্জিনিয়ারিং টিমের জন্য সমস্যা সনাক্তকরণকে আরও কঠিন করে তোলে। লগগুলি পরীক্ষা করা বা প্রাক-উত্পাদন মূল্যায়নের উপর নির্ভর করার মতো ঐতিহ্যবাহী ডিবাগিং পদ্ধতিগুলি বাস্তব-বিশ্বের কর্মক্ষমতা সমস্যাগুলি ক্যাপচার করতে ব্যর্থ হতে পারে।

রেইনড্রপ উৎপাদনে AI এজেন্টদের জন্য বিশেষভাবে তৈরি একটি মনিটরিং প্ল্যাটফর্ম প্রদান করে। এটি ইঞ্জিনিয়ারিং দলগুলিকে ব্যবহারকারীর মিথস্ক্রিয়ার বিশাল প্রবাহ প্রক্রিয়াকরণের মাধ্যমে টুল কল ব্যর্থতা এবং ব্যবহারকারীর হতাশার মতো জটিল সমস্যাগুলি সনাক্ত করতে সহায়তা করে। এর মনিটরিং পাইপলাইনকে দক্ষতার সাথে শক্তিশালী করার জন্য, রেইনড্রপ শ্রেণীবদ্ধকরণ, সারাংশকরণ এবং অনুসন্ধান পুনঃর্যাঙ্কিংয়ের জন্য জেমিনি 2.5 ফ্ল্যাশ ব্যবহার করে।

রেইনড্রপের প্ল্যাটফর্ম প্রতিদিন লক্ষ লক্ষ ইভেন্ট প্রক্রিয়া করে। রেইনড্রপের জন্য একটি প্রধান চ্যালেঞ্জ হল ইঞ্জিনিয়ারিং দলগুলিকে এই বিশাল ডেটাসেটগুলির সমস্যাগুলি প্রায় রিয়েল-টাইমে অনুসন্ধান এবং শ্রেণীবদ্ধ করতে সক্ষম করা। যখন কোনও ব্যবহারকারী পর্যবেক্ষণের জন্য একটি নতুন সমস্যা সংজ্ঞায়িত করেন, তখন রেইনড্রপের সিস্টেমকে ব্যবহারকারীর উদ্দেশ্য দ্রুত ব্যাখ্যা করতে হবে এবং মিল খুঁজে পেতে ইভেন্ট স্ট্রিম বিশ্লেষণ করতে হবে।

এই উচ্চ-থ্রুপুট প্রক্রিয়াকরণের জন্য এমন মডেলের প্রয়োজন যা অত্যন্ত কম ল্যাটেন্সি এবং উচ্চ খরচ-দক্ষতা প্রদান করে। রেইনড্রপের মূল "অর্থবোধক পর্যবেক্ষণ" পাইপলাইন এবং ডিপ সার্চের মতো নতুন বৈশিষ্ট্যগুলিকে শক্তিশালী করার জন্য একটি সমাধানের প্রয়োজন ছিল - উৎপাদন এআই ডেটা গবেষণার জন্য একটি হাতিয়ার - কোনও অতিরিক্ত খরচ বা ধীর প্রতিক্রিয়া সময় ছাড়াই যা ব্যবহারকারীর অভিজ্ঞতা হ্রাস করবে।

"আমাদের এমন একটি মডেলের প্রয়োজন ছিল যা এই প্রাথমিক ঘটনাগুলিকে দ্রুত এবং যুক্তিসঙ্গত খরচে প্রক্রিয়া করতে পারে," রেইনড্রপের সহ-প্রতিষ্ঠাতা এবং সিটিও বেন হাইলাক বলেন। "জেমিনি ২.৫ ফ্ল্যাশের কম ল্যাটেন্সি এবং বুদ্ধিমত্তা আমাদের ডিপ সার্চ পণ্যটিকে সক্ষম করে যা অন্যথায় অব্যবহারযোগ্য হবে - অন্যান্য মডেলের সাথে খুব ধীর এবং খুব ব্যয়বহুল।"

রেইনড্রপ শ্রেণীবদ্ধকরণ এবং কোয়েরি পুনর্লিখন পরিচালনার জন্য জেমিনি 2.5 ফ্ল্যাশকে একীভূত করেছে। Vercel AI SDK ব্যবহার করে বাস্তবায়নটি সহজতর করা হয়েছিল, যার ফলে রেইনড্রপ দ্রুত মডেলগুলিকে একীভূত করতে সক্ষম হয়েছিল।

রেইনড্রপ বেশ কয়েকটি গুরুত্বপূর্ণ কাজের জন্য জেমিনি ২.৫ ফ্ল্যাশ ব্যবহার করে:

• কোয়েরি সম্প্রসারণ এবং পুনর্লিখন: ডিপ সার্চ পাইপলাইনে, জেমিনি ২.৫ ফ্ল্যাশ ব্যবহারকারীদের কোয়েরি পুনর্লিখন করে ফলাফল অপ্টিমাইজ করে, লক্ষ লক্ষ ইভেন্টে অনুসন্ধানের প্রাসঙ্গিকতা উন্নত করে।
• স্ট্রাকচার্ড আউটপুট: মডেল ইন্টারঅ্যাকশন থেকে আরও সঠিক ফলাফল নিশ্চিত করার জন্য রেইনড্রপ টুল কলিং এবং স্ট্রাকচার্ড আউটপুট ব্যবহার করে। ডিবাগিং এবং ব্যবহারকারীদের সঠিক যুক্তি ট্রেস প্রদানের জন্য এই নির্ভরযোগ্যতা অত্যন্ত গুরুত্বপূর্ণ।

জেমিনি ২.৫ ফ্ল্যাশ মডেলে স্যুইচ করার মাধ্যমে, রেইনড্রপ উল্লেখযোগ্য কর্মক্ষমতা এবং দক্ষতা বৃদ্ধি অর্জন করেছে।

মূল ফলাফলের মধ্যে রয়েছে:

• অনুসন্ধানের সময় ঘন্টা থেকে কমিয়ে প্রায় এক মিনিটেরও কম করা হয়েছে
• খরচ ৯০% এরও বেশি কমেছে
• মূল্যায়ন এবং উৎপাদন পর্যবেক্ষণ উভয় ক্ষেত্রেই নির্ভরযোগ্যতা বৃদ্ধি পেয়েছে

রেইনড্রপ সম্পূর্ণ ট্রেসিং এবং টুল-কল সমস্যাগুলির স্বয়ংক্রিয় সনাক্তকরণের মতো বৈশিষ্ট্য সহ তার এজেন্ট-নেটিভ মনিটরিং প্ল্যাটফর্ম তৈরি করে চলেছে। তারা বিশ্বাস করে যে AI মডেলগুলি দ্রুত এবং আরও নির্ভরযোগ্য হয়ে উঠলে, এজেন্টরা ক্রমবর্ধমান জটিল কাজগুলি পরিচালনা করতে সক্ষম হবে।

"ডেভেলপারদের জেমিনি ২.৫ ফ্ল্যাশের নির্ভরযোগ্য কাঠামোগত আউটপুট এবং মূল্য নির্ধারণের মডেলের সুবিধা নেওয়া উচিত যাতে তারা পূর্বে যেগুলি অত্যন্ত ব্যয়বহুল বলে মনে করেছিলেন সেগুলি ব্যবহার করতে সক্ষম হয়," হাইলাক পরামর্শ দেন। "জেমিনি ২.৫ ফ্ল্যাশ সম্ভবত আপনার পণ্য বিকাশের গতিপথ পরিবর্তন করতে পারে, আপনার ব্যবহারকারীদের বুদ্ধিমান অভিজ্ঞতা দেওয়ার মাধ্যমে যা আসলে আপনার মূল্য নির্ধারণের মডেলের সাথে কাজ করে।"

আপনার নিজস্ব অ্যাপ্লিকেশন তৈরি শুরু করতে, আমাদের API ডকুমেন্টেশনে জেমিনি মডেলগুলির ক্ষমতাগুলি অন্বেষণ করুন।