Method: models.generateText

Menghasilkan respons dari model yang diberi pesan input.

Permintaan HTTP

POST https://generativelanguage.googleapis.com/v1beta/{model=models/*}:generateText

URL menggunakan sintaksis gRPC Transcoding.

Parameter jalur

Parameter
model

string

Wajib. Nama Model atau TunedModel yang akan digunakan untuk menghasilkan penyelesaian. Contoh: models/text-bison-001 mengirimkanModels/sentence-Penerjemah-u3b7m

Isi permintaan

Isi permintaan memuat data dengan struktur berikut:

Representasi JSON
{
  "prompt": {
    object (TextPrompt)
  },
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ],
  "stopSequences": [
    string
  ],
  "temperature": number,
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "topP": number,
  "topK": integer
}
Kolom
prompt

object (TextPrompt)

Wajib. Teks input bentuk bebas yang diberikan ke model sebagai prompt.

Setelah diminta, model akan menghasilkan respons TextCompletion yang diprediksinya sebagai penyelesaian teks input.

safetySettings[]

object (SafetySetting)

Opsional. Daftar instance SafetySetting unik untuk memblokir konten yang tidak aman.

yang akan diterapkan pada GenerateTextRequest.prompt dan GenerateTextResponse.candidates. Tidak boleh ada lebih dari satu setelan untuk setiap jenis SafetyCategory. API akan memblokir setiap permintaan dan respons yang gagal memenuhi nilai minimum yang ditetapkan oleh setelan ini. Daftar ini mengganti setelan default untuk setiap SafetyCategory yang ditentukan di SafetySettings. Jika SafetySetting tidak ada untuk SafetyCategory tertentu yang diberikan dalam daftar, API akan menggunakan setelan keamanan default untuk kategori tersebut. Kategori bahaya HARM_CATEGORY_DEROGATORY, HARM_CATEGORY_TOXICITY, HARM_CATEGORY_VIOLENCE, HARM_CATEGORY_SEXUAL, HARM_CATEGORY_MEDICAL, HARM_CATEGORY_DANGEROUS didukung dalam layanan teks.

stopSequences[]

string

Rangkaian karakter (hingga 5) yang akan menghentikan pembuatan output. Jika ditetapkan, API akan berhenti saat urutan perhentian ditampilkan pertama. Urutan penghentian tidak akan disertakan sebagai bagian dari respons.

temperature

number

Opsional. Mengontrol keacakan output. Catatan: Nilai default bervariasi menurut model, lihat atribut Model.temperature dari Model yang menampilkan fungsi getModel.

Nilai dapat berkisar dari [0.0,1.0], inklusif. Nilai yang mendekati 1,0 akan menghasilkan respons yang lebih bervariasi dan kreatif, sedangkan nilai yang mendekati 0,0 biasanya akan menghasilkan respons yang lebih jelas dari model.

candidateCount

integer

Opsional. Jumlah respons yang dihasilkan yang akan ditampilkan.

Nilai ini harus antara [1, 8], inklusif. Jika tidak disetel, setelan ini akan ditetapkan secara default ke 1.

maxOutputTokens

integer

Opsional. Jumlah maksimum token yang akan disertakan dalam kandidat.

Jika tidak disetel, setelan ini akan ditetapkan secara default ke outputTokenLimit yang ditentukan dalam spesifikasi Model.

topP

number

Opsional. Probabilitas kumulatif token maksimum yang perlu dipertimbangkan saat mengambil sampel.

Model ini menggunakan gabungan pengambilan sampel Top-k dan nukleus.

Token diurutkan berdasarkan probabilitas yang ditetapkan sehingga hanya token yang paling mungkin yang dipertimbangkan. Pengambilan sampel top-k secara langsung membatasi jumlah maksimum token yang dapat dipertimbangkan, sementara pengambilan sampel Nucleus membatasi jumlah token berdasarkan probabilitas kumulatif.

Catatan: Nilai default bervariasi menurut model, lihat atribut Model.top_p dari Model yang menampilkan fungsi getModel.

topK

integer

Opsional. Jumlah token maksimum yang perlu dipertimbangkan saat pengambilan sampel.

Model ini menggunakan gabungan pengambilan sampel Top-k dan nukleus.

Pengambilan sampel top-k mempertimbangkan kumpulan token topK yang paling mungkin. Default-nya adalah 40.

Catatan: Nilai default bervariasi menurut model, lihat atribut Model.top_k dari Model yang menampilkan fungsi getModel.

Isi respons

Jika berhasil, isi respons akan berisi instance GenerateTextResponse.

Cakupan otorisasi

Memerlukan salah satu cakupan OAuth berikut:

  • https://www.googleapis.com/auth/generative-language
  • https://www.googleapis.com/auth/generative-language.tuning
  • https://www.googleapis.com/auth/generative-language.tuning.readonly
  • https://www.googleapis.com/auth/generative-language.retriever
  • https://www.googleapis.com/auth/generative-language.retriever.readonly

Untuk informasi selengkapnya, lihat Ringkasan Autentikasi.