سازنده برای LlmInference.LlmInferenceOptions .
سازندگان عمومی
سازنده () |
روش های عمومی
| LlmInference.LlmInferenceOptions نهایی | ساختن () نمونه ERROR(/ImageGeneratorOptions) اعتبارسنجی و ایجاد می کند. |
| چکیده LlmInference.LlmInferenceOptions.Builder | |
| چکیده LlmInference.LlmInferenceOptions.Builder | setLoraPath ( رشته loraPath) مسیر مطلق به بسته دارایی مدل LoRA که به صورت محلی در دستگاه ذخیره شده است. |
| چکیده LlmInference.LlmInferenceOptions.Builder | setMaxTokens (int maxTokens) تعداد کل نشانه ها را برای ورودی و خروجی پیکربندی می کند). |
| چکیده LlmInference.LlmInferenceOptions.Builder | |
| چکیده LlmInference.LlmInferenceOptions.Builder | setRandomSeed (int randomSeed) بذر تصادفی را برای نمونه‌گیری نشانه‌ها پیکربندی می‌کند. |
| چکیده LlmInference.LlmInferenceOptions.Builder | setResultListener ( ProgressListener < رشته > شنونده) شنونده نتیجه را برای فراخوانی با API غیرهمگام تنظیم می کند. |
| چکیده LlmInference.LlmInferenceOptions.Builder | setTemperature (دمای شناور) هنگام رمزگشایی رمز بعدی، تصادفی بودن را پیکربندی می کند. |
| چکیده LlmInference.LlmInferenceOptions.Builder | setTopK (int topK) برای هر مرحله رمزگشایی، K عدد بالایی از نشانه‌ها را پیکربندی می‌کند. |
روش های ارثی
سازندگان عمومی
عمومی سازنده ()
روش های عمومی
ساخت نهایی عمومی LlmInference.LlmInferenceOptions ()
نمونه ERROR(/ImageGeneratorOptions) اعتبارسنجی و ایجاد می کند.
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setErrorListener ( ErrorListener listener)
شنونده خطا را برای فراخوانی با API غیرهمگام تنظیم می کند.
مولفه های
| شنونده |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setLoraPath ( رشته loraPath)
مسیر مطلق به بسته دارایی مدل LoRA که به صورت محلی در دستگاه ذخیره شده است. این فقط با مدل های GPU سازگار است.
مولفه های
| loraPath |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)
تعداد کل نشانه ها را برای ورودی و خروجی پیکربندی می کند).
مولفه های
| maxTokens |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setModelPath ( String modelPath)
مسیر مدل را برای وظیفه مولد متن تنظیم می کند.
مولفه های
| modelPath |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setRandomSeed (int randomSeed)
بذر تصادفی را برای نمونه‌گیری نشانه‌ها پیکربندی می‌کند.
مولفه های
| دانه تصادفی |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setResultListener ( ProgressListener < String > listener)
شنونده نتیجه را برای فراخوانی با API غیرهمگام تنظیم می کند.
مولفه های
| شنونده |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setTemperature (دمای شناور)
هنگام رمزگشایی رمز بعدی، تصادفی بودن را پیکربندی می کند. مقدار 0.0f به معنای رمزگشایی حریصانه است. مقدار پیش فرض 0.8f است.
مولفه های
| درجه حرارت |
|---|
چکیده عمومی LlmInference.LlmInferenceOptions.Builder setTopK (int topK)
برای هر مرحله رمزگشایی، K عدد بالایی از نشانه‌ها را پیکربندی می‌کند. مقدار 1 به معنای رمزگشایی حریصانه است. مقدار پیش فرض 40 است.
مولفه های
| topK |
|---|