Method: models.countTokens

입력 콘텐츠에 대해 모델의 tokenizer를 실행하고 토큰 수를 반환합니다.

HTTP 요청

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:countTokens

URL은 gRPC 트랜스코딩 문법을 사용합니다.

경로 매개변수

매개변수
model

string

필수 항목입니다. 모델의 리소스 이름입니다. 이는 모델에서 사용할 ID 역할을 합니다.

이 이름은 models.list 메서드에서 반환하는 모델 이름과 일치해야 합니다.

형식: models/{model}

요청 본문

요청 본문에는 다음과 같은 구조의 데이터가 포함됩니다.

JSON 표현 
{
  "contents": [
    {
      object (Content)
    }
  ],
  "generateContentRequest": {
    object (GenerateContentRequest)
  }
}
입력란
contents[]

object (Content)

선택사항입니다. 프롬프트로 모델에 제공되는 입력입니다. generateContentRequest가 설정되면 이 필드는 무시됩니다.
generateContentRequest

object (GenerateContentRequest)

선택사항입니다. 모델에 제공되는 전체 입력입니다. model.countTokens는 프롬프트, 함수 호출 등을 집계합니다.

응답 본문

models.countTokens님의 응답입니다.

prompt에 모델의 tokenCount를 반환합니다.

성공할 경우 응답 본문에 다음 구조의 데이터가 포함됩니다.

JSON 표현 
{
  "totalTokens": integer
}
입력란
totalTokens

integer

model가 prompt를 토큰화하는 토큰 수입니다.

항상 음수가 아닙니다. 캐시된Content가 설정되어 있어도 이 값은 여전히 총 유효 프롬프트 크기입니다. 즉, 캐시된 콘텐츠의 토큰 수가 여기에 포함됩니다.

승인 범위

다음 OAuth 범위 중 하나가 필요합니다.

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

자세한 내용은 인증 개요를 참조하세요.

GenerateContentRequest

모델에서 완료 생성 요청입니다.

JSON 표현 
{
  "model": string,
  "contents": [
    {
      object (Content)
    }
  ],
  "tools": [
    {
      object (Tool)
    }
  ],
  "toolConfig": {
    object (ToolConfig)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "systemInstruction": {
    object (Content)
  },
  "generationConfig": {
    object (GenerationConfig)
  },
  "cachedContent": string
}
입력란
model

string

필수 항목입니다. 완료를 생성하는 데 사용할 Model의 이름입니다.

형식: name=models/{model}
contents[]

object (Content)

필수 항목입니다. 모델과의 현재 대화 콘텐츠입니다.

싱글턴 쿼리의 경우 이는 단일 인스턴스입니다. 멀티턴 쿼리의 경우 대화 기록과 최신 요청이 포함된 반복되는 필드입니다.
tools[]

object (Tool)

선택사항입니다. 모델이 다음 응답을 생성하는 데 사용할 수 있는 Tools 목록입니다.

Tool는 시스템이 외부 시스템과 상호작용하여 모델의 지식과 범위를 벗어난 작업 또는 작업 집합을 실행할 수 있도록 하는 코드입니다. 현재 지원되는 유일한 도구는 Function입니다.
toolConfig

object (ToolConfig)

선택사항입니다. 요청에 지정된 Tool의 도구 구성입니다.
safetySettings[]

object (SafetySetting)

선택사항입니다. 안전하지 않은 콘텐츠를 차단하기 위한 고유한 SafetySetting 인스턴스 목록입니다.

이는 GenerateContentRequest.contents 및 GenerateContentResponse.candidates에 적용됩니다. SafetyCategory 유형마다 설정이 2개 이상 있으면 안 됩니다. API는 이러한 설정에 의해 설정된 기준을 충족하지 못하는 모든 콘텐츠 및 응답을 차단합니다. 이 목록은 safetySettings에 지정된 각 SafetyCategory의 기본 설정을 재정의합니다. 목록에 제공된 특정 SafetyCategory에 SafetySetting가 없는 경우 API는 해당 카테고리의 기본 안전 설정을 사용합니다. 유해한 카테고리 HARM_CATEGORY_HATE_SPEECH, HARM_CATEGORY_SEXUALLY_EXPLICIT, HARM_CATEGORY_DANGEROUS_CONTENT, HARM_CATEGORY_HARASSMENT가 지원됩니다.
systemInstruction

object (Content)

선택사항입니다. 개발자가 설정한 시스템 안내입니다. 현재는 텍스트만 지원합니다.
generationConfig

object (GenerationConfig)

선택사항입니다. 모델 생성 및 출력을 위한 구성 옵션입니다.
cachedContent

string

선택사항입니다. 예측을 제공하는 컨텍스트로 사용되는 캐시된 콘텐츠의 이름입니다. 참고: 사용자가 캐싱 (예: 캐시할 콘텐츠)을 제어할 수 있고 비용 절감이 보장되는 명시적 캐싱에서만 사용됩니다. 형식: cachedContents/{cachedContent}