পাবলিক ক্লাস LlmInference
LlmInference টাস্ক Java API
নেস্টেড ক্লাস
ক্লাস | LlmInference.LlmInference Options | একটি LlmInference সেট আপ করার জন্য বিকল্প। |
পাবলিক পদ্ধতি
অকার্যকর | বন্ধ () LlmInference বন্ধ করে এবং পরিষ্কার করে। |
স্ট্যাটিক LlmInference | createFromOptions (প্রসঙ্গ প্রসঙ্গ, LlmInference.LlmInferenceOptions বিকল্প) একটি LlmInference টাস্ক তৈরি করে। |
স্ট্রিং | |
অকার্যকর | generateResponseAsync ( স্ট্রিং ইনপুট টেক্সট) ইনপুট পাঠ্যের উপর ভিত্তি করে একটি প্রতিক্রিয়া তৈরি করে। |
int | sizeInTokens ( স্ট্রিং টেক্সট) LLM-এর জন্য শুধুমাত্র টোকেনাইজেশনের একটি আহ্বান চালায় এবং ফলাফলের আকার (টোকেনে) প্রদান করে। |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
পাবলিক পদ্ধতি
পাবলিক স্ট্যাটিক LlmInference createFromOptions (প্রসঙ্গ প্রসঙ্গ, LlmInference.LlmInferenceOptions বিকল্প)
একটি LlmInference টাস্ক তৈরি করে।
পরামিতি
প্রসঙ্গ | |
---|---|
বিকল্প |
পাবলিক স্ট্রিং জেনারেট রেসপন্স ( স্ট্রিং ইনপুট টেক্সট)
ইনপুট পাঠ্যের উপর ভিত্তি করে একটি প্রতিক্রিয়া তৈরি করে।
পরামিতি
ইনপুট টেক্সট | প্রক্রিয়াকরণের জন্য একটি String । |
---|
নিক্ষেপ করে
যদি অনুমান ব্যর্থ হয়। |
পাবলিক ভ্যাইড জেনারেট রেস্পন্স অ্যাসিঙ্ক ( স্ট্রিং ইনপুট টেক্সট)
ইনপুট পাঠ্যের উপর ভিত্তি করে একটি প্রতিক্রিয়া তৈরি করে।
পরামিতি
ইনপুট টেক্সট | প্রক্রিয়াকরণের জন্য একটি String । |
---|
নিক্ষেপ করে
যদি অনুমান ব্যর্থ হয়। |
পাবলিক int sizeInTokens ( স্ট্রিং টেক্সট)
LLM-এর জন্য শুধুমাত্র টোকেনাইজেশনের একটি আহ্বান চালায় এবং ফলাফলের আকার (টোকেনে) প্রদান করে। generateResponse(String)
ক্যোয়ারী সক্রিয় থাকা অবস্থায় কল করা যাবে না। প্রতিক্রিয়া তৈরি করুন
পরামিতি
পাঠ্য | টোকেনাইজ করার জন্য পাঠ্য। |
---|
রিটার্নস
- টেক্সটের ফলে টোকেনাইজেশনে টোকেনের সংখ্যা।
নিক্ষেপ করে
যদি টোকেনাইজেশন ব্যর্থ হয়। |