LlmInference

class publik LlmInference

LlmInference Task Java API

Class Bertingkat

class LlmInference.LlmInferenceOptions Opsi untuk menyiapkan LlmInference.

Metode Publik

void	close() Menutup dan membersihkan `LlmInference`.
statis LlmInference	createFromOptions(Konteks konteks, opsi LlmInference.LlmInferenceOptions) Membuat Tugas LlmInference.
String	generateResponse(String inputText) Menghasilkan respons berdasarkan teks input.
void	generateResponseAsync(String inputText) Menghasilkan respons berdasarkan teks input.
int	sizeInTokens(teks String) Menjalankan pemanggilan hanya tokenisasi untuk LLM, dan menampilkan ukuran (dalam token) hasilnya.

Metode Turunan

Dari class java.lang.Object

boolean	sama dengan(Object arg0)
final Class<?>	getClass()
int	hashCode()
final void	notify()
final void	notifyAll()
String	toString()
final void	wait(long arg0, int arg1)
final void	wait(long arg0)
final void	wait()

Dari antarmuka java.lang.AutoCloseable

abstrak void

close()

Metode Publik

public void close ()

Menutup dan membersihkan LlmInference.

public static LlmInference createFromOptions (Context context, LlmInference.LlmInferenceOptions)

Membuat Tugas LlmInference.

Parameter

context
opsi

public String generateResponse (String inputText)

Menghasilkan respons berdasarkan teks input.

Parameter

inputText	`String` untuk diproses.

Menampilkan

	jika inferensi gagal.

public void generateResponseAsync (String inputText)

Menghasilkan respons berdasarkan teks input.

Parameter

inputText	`String` untuk diproses.

Menampilkan

	jika inferensi gagal.

public int sizeInTokens (String text)

Menjalankan pemanggilan hanya tokenisasi untuk LLM, dan menampilkan ukuran (dalam token) hasilnya. Tidak dapat dipanggil saat kueri generateResponse(String) aktif. generateResponse

Parameter

teks	Teks yang akan ditokenkan.

Hasil

Jumlah token dalam tokenisasi teks yang dihasilkan.

Menampilkan

	jika tokenisasi gagal.