Method: models.generateText

입력 메시지가 지정된 모델에서 응답을 생성합니다.

HTTP 요청

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:generateText

URL은 gRPC 트랜스코딩 구문을 사용합니다.

경로 매개변수

매개변수
model

string

필수 항목입니다. 완료 항목을 생성하는 데 사용할 Model 또는 TunedModel의 이름입니다. 예: model/text-bison-001 scaledModels/sentence-translator-u3b7m

요청 본문

요청 본문에는 다음과 같은 구조의 데이터가 포함됩니다.

JSON 표현
{
  "prompt": {
    object (TextPrompt)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "stopSequences": [
    string
  ],
  "temperature": number,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "topP": number,
  "topK": integer
}
필드
prompt

object (TextPrompt)

필수 항목입니다. 모델에 프롬프트로 지정된 자유 형식 입력 텍스트입니다.

프롬프트가 주어지면 모델은 입력 텍스트의 완료로 예측되는 Textcomplete 응답을 생성합니다.

safetySettings[]

object (SafetySetting)

선택사항입니다. 안전하지 않은 콘텐츠를 차단하기 위한 고유 SafetySetting 인스턴스 목록

GenerateTextRequest.promptGenerateTextResponse.candidates에 적용될 예정입니다. 각 SafetyCategory 유형에는 설정이 2개 이상 있으면 안 됩니다. API는 이러한 설정에 지정된 기준점을 충족하지 못하는 모든 메시지 및 응답을 차단합니다. 이 목록은 safetySettings에 지정된 각 SafetyCategory의 기본 설정을 재정의합니다. 목록에 제공된 특정 SafetyCategorySafetySetting가 없으면 API는 카테고리의 기본 안전 설정을 사용합니다. 유해 카테고리 HARM_CATEGORY_DEROGATORY, HARM_CATEGORY_TOXICITY, HARM_CATEGORY_VIOLENCE, HARM_CATEGORY_SEXUAL, HARM_CATEGORY_MEDICAL, HARM_CATEGORY_DANGEROUS는 텍스트 서비스에서 지원됩니다.

stopSequences[]

string

출력 생성을 중지할 문자 시퀀스의 집합입니다 (최대 5개). 지정된 경우 중지 시퀀스가 처음 나타날 때 API가 중지됩니다. 중지 시퀀스는 응답에 포함되지 않습니다.

temperature

number

선택사항입니다. 출력의 무작위성을 제어합니다. 참고: 기본값은 모델에 따라 다릅니다. getModel 함수를 반환하는 ModelModel.temperature 속성을 참조하세요.

값의 범위는 [0.0,1.0] 이상입니다. 값이 1.0에 가까우면 더 다양하고 창의적인 응답을 생성하며, 0.0에 가까울수록 일반적으로 모델에서 더 간단한 응답이 발생합니다.

candidateCount

integer

선택사항입니다. 반환할 생성된 응답 수입니다.

이 값은 [1, 8] 이하여야 합니다. 설정하지 않으면 기본값은 1입니다.

maxOutputTokens

integer

선택사항입니다. 후보에 포함할 수 있는 최대 토큰 수입니다.

설정하지 않으면 기본값은 Model 사양에 지정된 outputTokenLimit입니다.

topP

number

선택사항입니다. 샘플링 시 고려할 토큰의 최대 누적 확률입니다.

이 모델은 결합된 최상위 K 및 핵 샘플링을 사용합니다.

할당된 확률을 기준으로 토큰이 정렬되므로 가장 가능성이 높은 토큰만 고려됩니다. 최상위 K 샘플링은 고려할 최대 토큰 수를 직접적으로 제한하는 반면, Nucleus 샘플링은 누적 확률을 기준으로 토큰 수를 제한합니다.

참고: 기본값은 모델에 따라 다릅니다. getModel 함수를 반환하는 ModelModel.top_p 속성을 참조하세요.

topK

integer

선택사항입니다. 샘플링할 때 고려할 최대 토큰 수입니다.

이 모델은 결합된 최상위 K 및 핵 샘플링을 사용합니다.

최상위 K 샘플링은 가능성이 가장 높은 토큰 topK개 집합을 고려합니다. 기본값은 40입니다.

참고: 기본값은 모델에 따라 다릅니다. getModel 함수를 반환하는 ModelModel.top_k 속성을 참조하세요.

응답 본문

성공한 경우 응답 본문에 GenerateTextResponse의 인스턴스가 포함됩니다.

승인 범위

다음 OAuth 범위 중 하나가 필요합니다.

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

자세한 내용은 인증 개요를 참조하세요.