מחלקה מופשטת סטטית ציבורית
LlmInference.LlmInferenceOptions.Builder
בנאי של LlmInference.LlmInferenceOptions.
בנאים ציבוריים
|
Builder()
|
שיטות ציבוריות
| סופי LlmInference.LlmInferenceOptions |
build()
מאמת ויוצר את המכונה של
ERROR(/ImageGeneratorOptions). |
| מופשט LlmInference.LlmInferenceOptions.Builder |
setErrorListener(ErrorListener listener)
מגדיר את האזנה לשגיאות כך שיופעל באמצעות ממשק ה-API האסינכרוני.
|
| מופשט LlmInference.LlmInferenceOptions.Builder | |
| מופשט LlmInference.LlmInferenceOptions.Builder |
setMaxTokens(int maxTokens)
הגדרת המספר הכולל של אסימונים לקלט ולפלט).
|
| מופשט LlmInference.LlmInferenceOptions.Builder | |
| מופשט LlmInference.LlmInferenceOptions.Builder |
setRandomSeed(intRandomSeed)
הגדרת מקור אקראי לאסימוני דגימה.
|
| מופשט LlmInference.LlmInferenceOptions.Builder |
setResultListener(ProgressListener<String> listener)
מגדיר את ה-listener כך שיופעל באמצעות ה-API האסינכרוני.
|
| מופשט LlmInference.LlmInferenceOptions.Builder |
setTemperature(טמפרטורה צפה)
הגדרת רנדומיזציה במהלך פענוח האסימון הבא.
|
| מופשט LlmInference.LlmInferenceOptions.Builder |
setTopK(int topK)
המדיניות הזו מגדירה את מספר K של האסימונים המובילים שיש לדגום בכל שלב בפענוח הקוד.
|
שיטות שעברו בירושה
בנאים ציבוריים
Public Builder ()
שיטות ציבוריות
ציבורי סופי LlmInference.LlmInferenceOptions build ()
מאמת ויוצר את המכונה של ERROR(/ImageGeneratorOptions).
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setErrorListener (ErrorListener listener)
מגדיר את האזנה לשגיאות כך שיופעל באמצעות ממשק ה-API האסינכרוני.
פרמטרים
| listener |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)
הנתיב המוחלט לחבילת הנכסים של דגם LoRA שנשמרה באופן מקומי במכשיר. האפשרות הזו תואמת רק למודלים של GPU.
פרמטרים
| loraPath |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)
הגדרת המספר הכולל של אסימונים לקלט ולפלט).
פרמטרים
| maxTokens |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setModelPath (מחרוזת modelPath)
מגדיר את נתיב המודל למשימה של מחולל הטקסט.
פרמטרים
| modelPath |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setRandomSeed (intranSeed)
הגדרת מקור אקראי לאסימוני דגימה.
פרמטרים
| randomSeed |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<String> listener)
מגדיר את ה-listener כך שיופעל באמצעות ה-API האסינכרוני.
פרמטרים
| listener |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setTemperature (הטמפרטורה הצפה)
הגדרת רנדומיזציה במהלך פענוח האסימון הבא. הערך 0.0f משמעו פענוח באמצעות אלגוריתם חמדן (Greedy). ערך ברירת המחדל הוא 0.8f.
פרמטרים
| טמפרטורה |
|---|
ציבורי מופשט LlmInference.LlmInferenceOptions.Builder setTopK (int topK)
המדיניות הזו מגדירה את מספר K של האסימונים המובילים שיש לדגום בכל שלב בפענוח הקוד. הערך 1 משמעו פענוח באמצעות אלגוריתם חמדן (Greedy). ערך ברירת המחדל הוא 40.
פרמטרים
| topK |
|---|