GenerationConfig

گزینه های پیکربندی برای تولید مدل و خروجی ها. ممکن است همه پارامترها برای هر مدلی قابل تنظیم نباشند.

نمایندگی JSON
{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}
زمینه های
stopSequences[]

string

اختیاری. مجموعه ای از دنباله های کاراکتر (تا 5) که تولید خروجی را متوقف می کند. اگر مشخص شود، API در اولین ظاهر یک توالی توقف متوقف خواهد شد. توالی توقف به عنوان بخشی از پاسخ درج نخواهد شد.

candidateCount

integer

اختیاری. تعداد پاسخ های تولید شده برای بازگشت.

در حال حاضر، این مقدار را فقط می توان روی 1 تنظیم کرد. اگر تنظیم نشود، به طور پیش فرض روی 1 خواهد بود.

maxOutputTokens

integer

اختیاری. حداکثر تعداد نشانه هایی که باید در یک نامزد گنجانده شود.

توجه: مقدار پیش فرض بسته به مدل متفاوت است، به ویژگی Model.output_token_limit Model بازگشتی از تابع getModel مراجعه کنید.

temperature

number

اختیاری. تصادفی بودن خروجی را کنترل می کند.

توجه: مقدار پیش فرض بر اساس مدل متفاوت است، به ویژگی Model.temperature Model بازگشتی از تابع getModel مراجعه کنید.

مقادیر می توانند از [0.0، 2.0] متغیر باشند.

topP

number

اختیاری. حداکثر احتمال تجمعی نشانه هایی که باید در هنگام نمونه گیری در نظر گرفته شوند.

این مدل از نمونه برداری ترکیبی Top-k و هسته استفاده می کند.

توکن ها بر اساس احتمالات اختصاص داده شده مرتب می شوند تا فقط محتمل ترین توکن ها در نظر گرفته شوند. نمونه‌برداری Top-k مستقیماً حداکثر تعداد توکن‌های مورد نظر را محدود می‌کند، در حالی که نمونه‌برداری هسته‌ای تعداد توکن‌ها را بر اساس احتمال تجمعی محدود می‌کند.

توجه: مقدار پیش فرض بر اساس مدل متفاوت است، به ویژگی Model.top_p Model بازگشتی از تابع getModel مراجعه کنید.

topK

integer

اختیاری. حداکثر تعداد نشانه هایی که باید در هنگام نمونه گیری در نظر گرفته شود.

مدل ها از نمونه برداری هسته یا نمونه برداری ترکیبی Top-k و هسته استفاده می کنند. نمونه گیری Top-k مجموعه ای از محتمل ترین توکن های topK را در نظر می گیرد. مدل‌هایی که با نمونه‌برداری هسته اجرا می‌شوند، اجازه تنظیم topK را نمی‌دهند.

توجه: مقدار پیش فرض بسته به مدل متفاوت است، به ویژگی Model.top_k Model بازگشتی از تابع getModel مراجعه کنید. فیلد خالی topK در Model نشان می‌دهد که مدل نمونه‌گیری top-k را اعمال نمی‌کند و اجازه تنظیم topK در درخواست‌ها را نمی‌دهد.