আপনি MediaPipe LLM ইনফারেন্স API এর সাথে ডিভাইসে সম্পূর্ণরূপে জেমা মডেলগুলি চালাতে পারেন৷ LLM ইনফারেন্স এপিআই বৃহৎ ভাষার মডেলগুলির জন্য একটি মোড়ক হিসাবে কাজ করে, আপনাকে তথ্য পুনরুদ্ধার, ইমেল খসড়া তৈরি এবং নথির সংক্ষিপ্তকরণের মতো সাধারণ পাঠ্য-থেকে-টেক্সট প্রজন্মের কাজের জন্য ডিভাইসে জেমা মডেলগুলি চালাতে সক্ষম করে।
মিডিয়াপাইপ স্টুডিওর সাথে LLM ইনফারেন্স API ব্যবহার করে দেখুন, ডিভাইসের মডেলের মূল্যায়ন এবং কাস্টমাইজ করার জন্য একটি ওয়েব-ভিত্তিক অ্যাপ্লিকেশন।
LLM ইনফারেন্স API নিম্নলিখিত প্ল্যাটফর্মগুলিতে উপলব্ধ:
আরও জানতে, MediaPipe LLM ইনফারেন্স ডকুমেন্টেশন পড়ুন।