GenerationConfig

{
  "stopSequences": [
    string
  ],
  "responseMimeType": string,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

Opsional. Kumpulan urutan karakter (hingga 5) yang akan menghentikan pembuatan output. Jika ditetapkan, API akan berhenti saat urutan perhentian pertama kali muncul. Urutan perhentian tidak akan disertakan sebagai bagian dari respons.

string

Opsional. mimetype respons output dari teks kandidat yang dihasilkan. mimetype yang didukung: text/plain: (default) Output teks. application/json: Respons JSON pada kandidat.

integer

Opsional. Jumlah respons yang dihasilkan yang akan ditampilkan.

Saat ini, nilai ini hanya dapat ditetapkan ke 1. Jika tidak disetel, setelan defaultnya adalah 1.

integer

Opsional. Jumlah token maksimum yang akan disertakan dalam kandidat.

Catatan: Nilai default bervariasi menurut model, lihat atribut Model.output_token_limit dari Model yang ditampilkan dari fungsi getModel.

number

Opsional. Mengontrol keacakan output.

Catatan: Nilai default bervariasi menurut model, lihat atribut Model.temperature dari Model yang ditampilkan dari fungsi getModel.

Nilai dapat berkisar dari [0.0, 2.0].

number

Opsional. Probabilitas kumulatif maksimum token yang perlu dipertimbangkan saat pengambilan sampel.

Model ini menggunakan gabungan pengambilan sampel Top-k dan nukleus.

Token diurutkan berdasarkan probabilitas yang ditetapkan sehingga hanya token yang paling mungkin yang dipertimbangkan. Sampling top-k secara langsung membatasi jumlah maksimum token yang dipertimbangkan, sedangkan sampling Nucleus membatasi jumlah token berdasarkan probabilitas kumulatif.

Catatan: Nilai default bervariasi menurut model, lihat atribut Model.top_p dari Model yang ditampilkan dari fungsi getModel.

integer

Opsional. Jumlah token maksimum yang perlu dipertimbangkan saat pengambilan sampel.

Model menggunakan pengambilan sampel nukleus atau gabungan Top-k dan pengambilan sampel nukleus. Sampling top-k mempertimbangkan kumpulan token yang paling mungkin untuk topK. Model yang berjalan dengan pengambilan sampel inti tidak mengizinkan setelan topK.

Catatan: Nilai default bervariasi menurut model, lihat atribut Model.top_k dari Model yang ditampilkan dari fungsi getModel. Kolom topK kosong di Model menunjukkan bahwa model tidak menerapkan sampling top-k dan tidak mengizinkan penetapan topK pada permintaan.