Model oluşturma ve çıkışlar için yapılandırma seçenekleri. Tüm parametreler her model için yapılandırılamayabilir.
JSON gösterimi |
---|
{ "stopSequences": [ string ], "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
Alanlar | |
---|---|
stopSequences[] |
İsteğe bağlı. Çıkış oluşturmayı durduracak karakter dizileri grubu (en fazla 5). Bu parametre belirtilirse API, bir durdurma sırasının ilk görülmesinde durur. Durdurma sırası yanıtın bir parçası olarak dahil edilmez. |
candidateCount |
İsteğe bağlı. Döndürülecek oluşturulan yanıtların sayısı. Şu anda bu değer yalnızca 1 olarak ayarlanabilir. Politika ayarlanmazsa bu değer varsayılan olarak 1 olur. |
maxOutputTokens |
İsteğe bağlı. Bir adaya dahil edilecek maksimum jeton sayısı. Not: Varsayılan değer modele göre değişir. |
temperature |
İsteğe bağlı. Çıkışın rastgeleliğini kontrol eder. Not: Varsayılan değer modele göre değişir. Değerler [0,0, 2,0] arasında değişebilir. |
topP |
İsteğe bağlı. Örnekleme sırasında dikkate alınacak jetonların maksimum kümülatif olasılığı. Model, Top-k ve çekirdek örneklemesini birleştirilmiş olarak kullanır. Jetonlar, atanma olasılıklarına göre sıralanır. Böylece yalnızca en olası jetonlar dikkate alınır. Top-k örneklemesi, dikkate alınacak maksimum jeton sayısını doğrudan sınırlarken, Nucleus örneklemesi, jeton sayısını kümülatif olasılığa göre sınırlar. Not: Varsayılan değer modele göre değişir. |
topK |
İsteğe bağlı. Örnekleme sırasında dikkate alınacak maksimum jeton sayısı. Modeller, çekirdek örneklemeyi veya birleştirilmiş Top-k ve çekirdek örneklemesini kullanır. İlk k örneklemesi, en olası Not: Varsayılan değer modele göre değişir. |