Opsi konfigurasi untuk pembuatan dan output model. Tidak semua parameter dapat dikonfigurasi untuk setiap model.
Representasi JSON |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
Kolom | |
---|---|
stopSequences[] |
Opsional. Kumpulan urutan karakter (hingga 5) yang akan menghentikan pembuatan output. Jika ditetapkan, API akan berhenti saat urutan perhentian pertama kali muncul. Urutan perhentian tidak akan disertakan sebagai bagian dari respons. |
candidateCount |
Opsional. Jumlah respons yang dihasilkan yang akan ditampilkan. Saat ini, nilai ini hanya dapat ditetapkan ke 1. Jika tidak disetel, setelan defaultnya adalah 1. |
maxOutputTokens |
Opsional. Jumlah token maksimum yang akan disertakan dalam kandidat. Catatan: Nilai default bervariasi menurut model, lihat atribut |
temperature |
Opsional. Mengontrol keacakan output. Catatan: Nilai default bervariasi menurut model, lihat atribut Nilai dapat berkisar dari [0.0, 2.0]. |
topP |
Opsional. Probabilitas kumulatif maksimum token yang perlu dipertimbangkan saat pengambilan sampel. Model ini menggunakan gabungan pengambilan sampel Top-k dan nukleus. Token diurutkan berdasarkan probabilitas yang ditetapkan sehingga hanya token yang paling mungkin yang dipertimbangkan. Sampling top-k secara langsung membatasi jumlah maksimum token yang dipertimbangkan, sedangkan sampling Nucleus membatasi jumlah token berdasarkan probabilitas kumulatif. Catatan: Nilai default bervariasi menurut model, lihat atribut |
topK |
Opsional. Jumlah token maksimum yang perlu dipertimbangkan saat pengambilan sampel. Model menggunakan pengambilan sampel nukleus atau gabungan Top-k dan pengambilan sampel nukleus. Sampling top-k mempertimbangkan kumpulan token yang paling mungkin untuk Catatan: Nilai default bervariasi menurut model, lihat atribut |