گزینه های پیکربندی برای تولید مدل و خروجی ها. ممکن است همه پارامترها برای هر مدلی قابل تنظیم نباشند.
نمایندگی JSON |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
زمینه های | |
---|---|
stopSequences[] | اختیاری. مجموعه ای از دنباله های کاراکتر (تا 5) که تولید خروجی را متوقف می کند. اگر مشخص شود، API در اولین ظاهر یک توالی توقف متوقف خواهد شد. توالی توقف به عنوان بخشی از پاسخ درج نخواهد شد. |
responseMimeType | اختیاری. نوع پاسخ خروجی متن نامزد تولید شده. نوع mime پشتیبانی شده: |
responseSchema | اختیاری. طرح پاسخ خروجی متن نامزد تولید شده زمانی که نوع میم پاسخ می تواند طرحواره داشته باشد. طرحواره می تواند اشیا، اولیه یا آرایه باشد و زیرمجموعه ای از طرحواره OpenAPI است. در صورت تنظیم، یک answerMimeType سازگار نیز باید تنظیم شود. mimetypes سازگار: |
candidateCount | اختیاری. تعداد پاسخ های تولید شده برای بازگشت. در حال حاضر، این مقدار را فقط می توان روی 1 تنظیم کرد. اگر تنظیم نشود، به طور پیش فرض روی 1 خواهد بود. |
maxOutputTokens | اختیاری. حداکثر تعداد نشانه هایی که باید در یک نامزد گنجانده شود. توجه: مقدار پیش فرض بسته به مدل متفاوت است، به ویژگی |
temperature | اختیاری. تصادفی بودن خروجی را کنترل می کند. توجه: مقدار پیش فرض بر اساس مدل متفاوت است، به ویژگی مقادیر می توانند از [0.0، 2.0] متغیر باشند. |
topP | اختیاری. حداکثر احتمال تجمعی نشانه هایی که باید در هنگام نمونه گیری در نظر گرفته شوند. این مدل از نمونه برداری ترکیبی Top-k و هسته استفاده می کند. توکن ها بر اساس احتمالات اختصاص داده شده مرتب می شوند تا فقط محتمل ترین توکن ها در نظر گرفته شوند. نمونهبرداری Top-k مستقیماً حداکثر تعداد توکنهای مورد نظر را محدود میکند، در حالی که نمونهبرداری هستهای تعداد توکنها را بر اساس احتمال تجمعی محدود میکند. توجه: مقدار پیش فرض بر اساس مدل متفاوت است، به ویژگی |
topK | اختیاری. حداکثر تعداد نشانه هایی که باید در هنگام نمونه گیری در نظر گرفته شود. مدل ها از نمونه برداری هسته یا نمونه برداری ترکیبی Top-k و هسته استفاده می کنند. نمونه گیری Top-k مجموعه ای از محتمل ترین توکن های توجه: مقدار پیش فرض بسته به مدل متفاوت است، به ویژگی |