পাবলিক স্ট্যাটিক বিমূর্ত ক্লাস LlmInference.LlmInferenceOptions.Builder
LlmInference.LlmInferenceOptions এর জন্য নির্মাতা।
পাবলিক কনস্ট্রাক্টর
নির্মাতা () |
পাবলিক পদ্ধতি
| চূড়ান্ত LlmInference.LlmInferenceOptions | নির্মাণ () ERROR(/ImageGeneratorOptions) দৃষ্টান্ত যাচাই করে এবং তৈরি করে। |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | সেটErrorListener ( ErrorListener শ্রোতা) async API-এর সাহায্যে ইরর লিসেনারকে ইনভোক করার জন্য সেট করে। |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | setMaxTokens (int maxTokens) ইনপুট এবং আউটপুটের জন্য টোকেনের মোট সংখ্যা কনফিগার করে)। |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | সেটRandomSeed (int randomSeed) নমুনা টোকেনগুলির জন্য এলোমেলো বীজ কনফিগার করে। |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | setResultListener ( ProgressListener < স্ট্রিং > শ্রোতা) ফলাফল শ্রোতাকে async API এর সাথে আহ্বান করতে সেট করে। |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | সেট তাপমাত্রা (ভাসমান তাপমাত্রা) পরবর্তী টোকেন ডিকোড করার সময় এলোমেলোতা কনফিগার করে। |
| বিমূর্ত LlmInference.LlmInferenceOptions.Builder | setTopK (int topK) প্রতিটি ডিকোডিং ধাপের জন্য নমুনা করা টোকেনগুলির শীর্ষ K নম্বর কনফিগার করে৷ |
উত্তরাধিকারসূত্রে প্রাপ্ত পদ্ধতি
পাবলিক কনস্ট্রাক্টর
পাবলিক বিল্ডার ()
পাবলিক পদ্ধতি
সর্বজনীন চূড়ান্ত LlmInference.LlmInferenceOptions বিল্ড ()
ERROR(/ImageGeneratorOptions) দৃষ্টান্ত যাচাই করে এবং তৈরি করে।
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setErrorListener ( ErrorListener listener)
async API-এর সাহায্যে ইরর লিসেনারকে ইনভোক করার জন্য সেট করে।
পরামিতি
| শ্রোতা |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setLoraPath ( স্ট্রিং loraPath)
ডিভাইসে স্থানীয়ভাবে সংরক্ষিত LoRA মডেল অ্যাসেট বান্ডেলের পরম পথ। এটি শুধুমাত্র GPU মডেলের সাথে সামঞ্জস্যপূর্ণ।
পরামিতি
| loraPath |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)
ইনপুট এবং আউটপুটের জন্য টোকেনের মোট সংখ্যা কনফিগার করে)।
পরামিতি
| maxTokens |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setModelPath ( String modelPath)
টেক্সট জেনারেটর টাস্কের জন্য মডেল পাথ সেট করে।
পরামিতি
| মডেলপথ |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setRandomSeed (int randomSeed)
নমুনা টোকেনগুলির জন্য এলোমেলো বীজ কনফিগার করে।
পরামিতি
| এলোমেলো বীজ |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setResultListener ( ProgressListener < String > listener)
ফলাফল শ্রোতাকে async API এর সাথে আহ্বান করতে সেট করে।
পরামিতি
| শ্রোতা |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setTemperature (ফ্লোট তাপমাত্রা)
পরবর্তী টোকেন ডিকোড করার সময় এলোমেলোতা কনফিগার করে। 0.0f এর মান মানে লোভী ডিকোডিং। ডিফল্ট মান হল 0.8f।
পরামিতি
| তাপমাত্রা |
|---|
সর্বজনীন বিমূর্ত LlmInference.LlmInferenceOptions.Builder setTopK (int topK)
প্রতিটি ডিকোডিং ধাপের জন্য নমুনা করা টোকেনগুলির শীর্ষ K নম্বর কনফিগার করে৷ 1 এর মান মানে লোভী ডিকোডিং। ডিফল্ট মান 40।
পরামিতি
| topK |
|---|