GenerationConfig

Model oluşturma ve çıkışlar için yapılandırma seçenekleri. Tüm parametreler her model için yapılandırılamayabilir.

JSON gösterimi
{
  "stopSequences": [
    string
  ],
  "responseMimeType": string,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}
Alanlar
stopSequences[]

string

İsteğe bağlı. Çıkış oluşturmayı durduracak karakter dizileri grubu (en fazla 5). Bu parametre belirtilirse API, bir durdurma sırasının ilk görülmesinde durur. Durdurma sırası yanıtın bir parçası olarak dahil edilmez.

responseMimeType

string

İsteğe bağlı. Oluşturulan aday metninin çıkış yanıtı mime türü. Desteklenen mime türü: text/plain: (varsayılan) Metin çıkışı. application/json: Adaylarda JSON yanıtı.

candidateCount

integer

İsteğe bağlı. Döndürülecek oluşturulan yanıtların sayısı.

Şu anda bu değer yalnızca 1 olarak ayarlanabilir. Politika ayarlanmazsa bu değer varsayılan olarak 1 olur.

maxOutputTokens

integer

İsteğe bağlı. Bir adaya dahil edilecek maksimum jeton sayısı.

Not: Varsayılan değer modele göre değişir. getModel işlevinden döndürülen Model için Model.output_token_limit özelliğine bakın.

temperature

number

İsteğe bağlı. Çıkışın rastgeleliğini kontrol eder.

Not: Varsayılan değer modele göre değişir. getModel işlevinden döndürülen Model için Model.temperature özelliğine bakın.

Değerler [0,0, 2,0] arasında değişebilir.

topP

number

İsteğe bağlı. Örnekleme sırasında dikkate alınacak jetonların maksimum kümülatif olasılığı.

Model, Top-k ve çekirdek örneklemesini birleştirilmiş olarak kullanır.

Jetonlar, atanma olasılıklarına göre sıralanır. Böylece yalnızca en olası jetonlar dikkate alınır. Top-k örneklemesi, dikkate alınacak maksimum jeton sayısını doğrudan sınırlarken, Nucleus örneklemesi, jeton sayısını kümülatif olasılığa göre sınırlar.

Not: Varsayılan değer modele göre değişir. getModel işlevinden döndürülen Model için Model.top_p özelliğine bakın.

topK

integer

İsteğe bağlı. Örnekleme sırasında dikkate alınacak maksimum jeton sayısı.

Modeller, çekirdek örneklemeyi veya birleştirilmiş Top-k ve çekirdek örneklemesini kullanır. İlk k örneklemesi, en olası topK jeton kümesini dikkate alır. Çekirdek örneklemesiyle çalışan modeller, topK ayarına izin vermez.

Not: Varsayılan değer modele göre değişir. getModel işlevinden döndürülen Model için Model.top_k özelliğine bakın. Model öğesinde topK alanının boş olması, modelin üst k örnekleme uygulamadığını ve isteklerde topK ayarlanmasına izin vermediğini gösterir.