Konfigurationsoptionen für Modellgenerierung und -ausgaben. Möglicherweise können nicht alle Parameter für jedes Modell konfiguriert werden.
JSON-Darstellung |
---|
{
"stopSequences": [
string
],
"responseMimeType": string,
"responseSchema": {
object ( |
Felder | |
---|---|
stopSequences[] |
Optional. Die Gruppe von Zeichenfolgen (bis zu 5), die die Ausgabegenerierung beenden. Wenn angegeben, stoppt die API beim ersten Auftreten einer Stoppsequenz. Die Stoppsequenz wird nicht in die Antwort aufgenommen. |
responseMimeType |
Optional. MIME-Typ der Ausgabeantwort des generierten Kandidatentextes. Unterstützter MIME-Typ: |
responseSchema |
Optional. Ausgabeantwortschema des generierten Kandidatentextes, wenn der MIME-Typ der Antwort ein Schema haben kann. Das Schema kann Objekte, Primitive oder Arrays sein und ist eine Teilmenge des OpenAPI-Schemas. Wenn festgelegt, muss auch ein kompatibler „responseMimeType“ festgelegt werden. Kompatible MIME-Typen: |
candidateCount |
Optional. Anzahl der generierten Antworten, die zurückgegeben werden sollen. Derzeit kann dieser Wert nur auf 1 festgelegt werden. Wenn die Richtlinie nicht konfiguriert ist, wird standardmäßig „1“ verwendet. |
maxOutputTokens |
Optional. Die maximale Anzahl von Tokens, die in einen Kandidaten aufgenommen werden können. Hinweis: Der Standardwert variiert je nach Modell. Weitere Informationen finden Sie im |
temperature |
Optional. Steuert die Zufälligkeit der Ausgabe. Hinweis: Der Standardwert variiert je nach Modell. Weitere Informationen finden Sie im Die Werte können zwischen [0,0, 2,0] liegen. |
topP |
Optional. Die maximale kumulative Wahrscheinlichkeit für Tokens, die bei der Stichprobe berücksichtigt werden sollen. Bei diesem Modell werden Top-K- und Nucleus-Stichproben kombiniert. Tokens werden nach ihrer zugewiesenen Wahrscheinlichkeit sortiert, sodass nur die wahrscheinlichsten Tokens berücksichtigt werden. Bei der Top-K-Stichprobe wird die maximale Anzahl der zu berücksichtigenden Tokens direkt eingeschränkt, während bei Nucleus-Stichproben die Anzahl der Tokens basierend auf der kumulativen Wahrscheinlichkeit begrenzt wird. Hinweis: Der Standardwert variiert je nach Modell. Weitere Informationen finden Sie im |
topK |
Optional. Die maximale Anzahl von Tokens, die bei der Stichprobenerhebung berücksichtigt werden sollen. Die Modelle nutzen Nucleus Sampling oder kombinierte Top-K- und Nucleus Sampling. Bei der Top-K-Stichprobe wird die Gruppe der Hinweis: Der Standardwert variiert je nach Modell. Weitere Informationen finden Sie im |