گزینه های پیکربندی برای تولید مدل و خروجی ها. ممکن است همه پارامترها برای هر مدلی قابل تنظیم نباشند.
نمایندگی JSON |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
زمینه های | |
---|---|
stopSequences[] | اختیاری. مجموعه ای از دنباله های کاراکتر (تا 5) که تولید خروجی را متوقف می کند. اگر مشخص شود، API در اولین ظاهر یک توالی توقف متوقف خواهد شد. توالی توقف به عنوان بخشی از پاسخ درج نخواهد شد. |
candidateCount | اختیاری. تعداد پاسخ های تولید شده برای بازگشت. در حال حاضر، این مقدار را فقط می توان روی 1 تنظیم کرد. اگر تنظیم نشود، به طور پیش فرض روی 1 خواهد بود. |
maxOutputTokens | اختیاری. حداکثر تعداد نشانه هایی که باید در یک نامزد گنجانده شود. توجه: مقدار پیش فرض بسته به مدل متفاوت است، به ویژگی |
temperature | اختیاری. تصادفی بودن خروجی را کنترل می کند. توجه: مقدار پیش فرض بر اساس مدل متفاوت است، به ویژگی مقادیر می توانند از [0.0، 2.0] متغیر باشند. |
topP | اختیاری. حداکثر احتمال تجمعی نشانه هایی که باید در هنگام نمونه گیری در نظر گرفته شوند. این مدل از نمونه برداری ترکیبی Top-k و هسته استفاده می کند. توکن ها بر اساس احتمالات اختصاص داده شده مرتب می شوند تا فقط محتمل ترین توکن ها در نظر گرفته شوند. نمونهبرداری Top-k مستقیماً حداکثر تعداد توکنهای مورد نظر را محدود میکند، در حالی که نمونهبرداری هستهای تعداد توکنها را بر اساس احتمال تجمعی محدود میکند. توجه: مقدار پیش فرض بر اساس مدل متفاوت است، به ویژگی |
topK | اختیاری. حداکثر تعداد نشانه هایی که باید در هنگام نمونه گیری در نظر گرفته شود. مدل ها از نمونه برداری هسته یا نمونه برداری ترکیبی Top-k و هسته استفاده می کنند. نمونه گیری Top-k مجموعه ای از محتمل ترین توکن های توجه: مقدار پیش فرض بسته به مدل متفاوت است، به ویژگی |