GenerationConfig

{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

זה שינוי אופציונלי. קבוצה של רצפי תווים (עד 5) שיפסיקו את יצירת הפלט. אם צוין אחרת, ה-API יפסיק בהופעה הראשונה של רצף עצירה. רצף העצירה לא ייכלל בתגובה.

integer

זה שינוי אופציונלי. מספר התשובות שנוצרו שיש להחזיר.

כרגע אפשר להגדיר את הערך הזה רק ל-1. אם המדיניות לא מוגדרת, ברירת המחדל תהיה 1.

integer

זה שינוי אופציונלי. מספר האסימונים המקסימלי שיש לכלול במועמד.

הערה: ערך ברירת המחדל משתנה לפי המודל. מידע נוסף מופיע במאפיין Model.output_token_limit של Model שהוחזר מהפונקציה getModel.

number

זה שינוי אופציונלי. ההגדרה קובעת את מידת הרנדומיזציה של הפלט.

הערה: ערך ברירת המחדל משתנה לפי המודל. מידע נוסף מופיע במאפיין Model.temperature של Model שהוחזר מהפונקציה getModel.

הערכים יכולים לנוע בין [0.0, 2.0].

number

זה שינוי אופציונלי. ההסתברות המצטברת המקסימלית של אסימונים שצריך לקחת בחשבון במהלך דגימה.

במודל נעשה שימוש בדגימה משולבת של סולם הערכים המובילים ודגימות גרעין.

האסימונים ממוינים לפי ההסתברויות שלהם, כך שהמערכת תתייחס רק לאסימונים בעלי הסבירות הגבוהה ביותר. דגימה מסוג 'Top-K' מגבילה באופן ישיר את מספר האסימונים המקסימלי שניתן לשקול, בעוד שדגימת Nucleus מגבילה את מספר האסימונים, על סמך ההסתברות המצטברת.

הערה: ערך ברירת המחדל משתנה לפי המודל. מידע נוסף מופיע במאפיין Model.top_p של Model שהוחזר מהפונקציה getModel.

integer

זה שינוי אופציונלי. מספר האסימונים המקסימלי שיש לקחת בחשבון במהלך דגימה.

במודלים נעשה שימוש בדגימת גרעין או בדגימה משולבת של 'Top k' ו'גרעין'. בדגימה מסוג 'Top k' נלקחת בחשבון הקבוצה של topK האסימונים בעלי הסבירות הגבוהה ביותר. במודלים שפועלים עם דגימת גרעין, אי אפשר להגדיר את TopK.

הערה: ערך ברירת המחדל משתנה לפי המודל. מידע נוסף מופיע במאפיין Model.top_k של Model שהוחזר מהפונקציה getModel. השדה topK ריק ב-Model מציין שהמודל לא מחיל דגימה מסוג'ראש הדף' ולא מאפשר להגדיר את topK בבקשות.