Model oluşturma ve çıkışlar için yapılandırma seçenekleri. Tüm parametreler her model için yapılandırılamayabilir.
JSON gösterimi |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
Alanlar | |
---|---|
stopSequences[] |
İsteğe bağlı. Çıkış oluşturmayı durduracak karakter dizileri grubu (en fazla 5). Bu parametre belirtilirse API, bir durdurma sırasının ilk görülmesinde durur. Durdurma sırası yanıtın bir parçası olarak dahil edilmez. |
responseMimeType |
İsteğe bağlı. Oluşturulan aday metninin çıkış yanıtı mime türü. Desteklenen mime türü: |
responseSchema |
İsteğe bağlı. Yanıt mime türünün şeması olabildiğinde oluşturulan aday metninin çıkış yanıtı şeması. Şema; nesneler, temel öğeler veya diziler olabilir ve OpenAPI şemasının bir alt kümesidir. Ayarlanırsa uyumlu bir responseMimeType da ayarlanmalıdır. Uyumlu mime türleri: |
candidateCount |
İsteğe bağlı. Döndürülecek oluşturulan yanıtların sayısı. Şu anda bu değer yalnızca 1 olarak ayarlanabilir. Politika ayarlanmazsa bu değer varsayılan olarak 1 olur. |
maxOutputTokens |
İsteğe bağlı. Bir adaya dahil edilecek maksimum jeton sayısı. Not: Varsayılan değer modele göre değişir. |
temperature |
İsteğe bağlı. Çıkışın rastgeleliğini kontrol eder. Not: Varsayılan değer modele göre değişir. Değerler [0,0, 2,0] arasında değişebilir. |
topP |
İsteğe bağlı. Örnekleme sırasında dikkate alınacak jetonların maksimum kümülatif olasılığı. Model, Top-k ve çekirdek örneklemesini birleştirilmiş olarak kullanır. Jetonlar, atanma olasılıklarına göre sıralanır. Böylece yalnızca en olası jetonlar dikkate alınır. Top-k örneklemesi, dikkate alınacak maksimum jeton sayısını doğrudan sınırlarken, Nucleus örneklemesi, jeton sayısını kümülatif olasılığa göre sınırlar. Not: Varsayılan değer modele göre değişir. |
topK |
İsteğe bağlı. Örnekleme sırasında dikkate alınacak maksimum jeton sayısı. Modeller, çekirdek örneklemeyi veya birleştirilmiş Top-k ve çekirdek örneklemesini kullanır. İlk k örneklemesi, en olası Not: Varsayılan değer modele göre değişir. |