REST Resource: models

{
  "name": string,
  "baseModelId": string,
  "version": string,
  "displayName": string,
  "description": string,
  "inputTokenLimit": integer,
  "outputTokenLimit": integer,
  "supportedGenerationMethods": [
    string
  ],
  "temperature": number,
  "topP": number,
  "topK": integer
}

string

필수 항목입니다. Model의 리소스 이름입니다.

형식: 다음과 같은 {model} 이름 지정 규칙을 사용하는 models/{model}

• "{baseModelId}-{version}"

예:

• models/chat-bison-001

string

필수 항목입니다. 기본 모델의 이름으로, 이를 생성 요청에 전달합니다.

예:

• chat-bison

string

필수 항목입니다. 모델의 버전 번호입니다.

이것은 메이저 버전을 나타냅니다.

string

사람이 읽을 수 있는 모델 이름입니다. 예: 'Bison과 채팅'

이름은 최대 128자(영문 기준)까지 가능하며 UTF-8 문자를 포함할 수 있습니다.

string

모델에 대한 간단한 설명입니다.

integer

이 모델에 허용되는 최대 입력 토큰 수입니다.

integer

이 모델에 사용할 수 있는 최대 출력 토큰 수입니다.

string

모델에서 지원하는 생성 메서드입니다.

메서드 이름은 API 메서드에 해당하는 generateMessage와 같은 파스칼 표기법 문자열로 정의됩니다.

number

출력의 무작위성을 제어합니다.

값의 범위는 [0.0,1.0] 이상입니다. 값이 1.0에 가까울수록 더 다양한 응답이 생성되고, 값이 0.0에 가까울수록 일반적으로 모델에서 덜 놀랄만한 응답이 생성됩니다. 이 값은 모델을 호출하는 동안 백엔드에서 사용할 기본값을 지정합니다.

number

Nucleus 샘플링용입니다.

핵 샘플링은 확률 합계가 topP 이상인 최소 토큰 집합을 고려합니다. 이 값은 모델을 호출하는 동안 백엔드에서 사용할 기본값을 지정합니다.

integer

Top-k 샘플링

최상위 K 샘플링에서는 확률이 가장 높은 topK 토큰 집합을 고려합니다. 이 값은 모델을 호출하는 동안 백엔드에서 사용할 기본값을 지정합니다. 비어 있으면 모델이 최상위 K 샘플링을 사용하지 않으며 topK이 생성 매개변수로 허용되지 않음을 나타냅니다.