পাবলিক ক্লাস LlmInference
LlmInference টাস্ক Java API
নেস্টেড ক্লাস
| ক্লাস | LlmInference.LlmInference Options | একটি LlmInference সেট আপ করার জন্য বিকল্প। | |
পাবলিক পদ্ধতি
| অকার্যকর | বন্ধ () LlmInference বন্ধ করে এবং পরিষ্কার করে। |
| স্ট্যাটিক LlmInference | createFromOptions (প্রসঙ্গ প্রসঙ্গ, LlmInference.LlmInferenceOptions বিকল্প) একটি LlmInference টাস্ক তৈরি করে। |
| স্ট্রিং | |
| অকার্যকর | generateResponseAsync ( স্ট্রিং ইনপুট টেক্সট) ইনপুট পাঠ্যের উপর ভিত্তি করে একটি প্রতিক্রিয়া তৈরি করে। |
| int | sizeInTokens ( স্ট্রিং টেক্সট) LLM-এর জন্য শুধুমাত্র টোকেনাইজেশনের একটি আহ্বান চালায় এবং ফলাফলের আকার (টোকেনে) প্রদান করে। |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
পাবলিক পদ্ধতি
পাবলিক স্ট্যাটিক LlmInference createFromOptions (প্রসঙ্গ প্রসঙ্গ, LlmInference.LlmInferenceOptions বিকল্প)
একটি LlmInference টাস্ক তৈরি করে।
পরামিতি
| প্রসঙ্গ | |
|---|---|
| বিকল্প |
পাবলিক স্ট্রিং জেনারেট রেসপন্স ( স্ট্রিং ইনপুট টেক্সট)
ইনপুট পাঠ্যের উপর ভিত্তি করে একটি প্রতিক্রিয়া তৈরি করে।
পরামিতি
| ইনপুট টেক্সট | প্রক্রিয়াকরণের জন্য একটি String । |
|---|
নিক্ষেপ করে
| যদি অনুমান ব্যর্থ হয়। |
পাবলিক ভ্যাইড জেনারেট রেস্পন্স অ্যাসিঙ্ক ( স্ট্রিং ইনপুট টেক্সট)
ইনপুট পাঠ্যের উপর ভিত্তি করে একটি প্রতিক্রিয়া তৈরি করে।
পরামিতি
| ইনপুট টেক্সট | প্রক্রিয়াকরণের জন্য একটি String । |
|---|
নিক্ষেপ করে
| যদি অনুমান ব্যর্থ হয়। |
পাবলিক int sizeInTokens ( স্ট্রিং টেক্সট)
LLM-এর জন্য শুধুমাত্র টোকেনাইজেশনের একটি আহ্বান চালায় এবং ফলাফলের আকার (টোকেনে) প্রদান করে। generateResponse(String) ক্যোয়ারী সক্রিয় থাকা অবস্থায় কল করা যাবে না। প্রতিক্রিয়া তৈরি করুন
পরামিতি
| পাঠ্য | টোকেনাইজ করার জন্য পাঠ্য। |
|---|
রিটার্নস
- টেক্সটের ফলে টোকেনাইজেশনে টোকেনের সংখ্যা।
নিক্ষেপ করে
| যদি টোকেনাইজেশন ব্যর্থ হয়। |