ขอแนะนํา Google AI Edge Portal: เปรียบเทียบประสิทธิภาพ AI บนอุปกรณ์ขอบในวงกว้าง ลงชื่อสมัครใช้เพื่อขอสิทธิ์เข้าถึงในช่วงเวอร์ชันตัวอย่างก่อนเปิดตัว

LlmInference

คลาสสาธารณะ LlmInference

Java API งาน LlmInference

ชั้นเรียนที่ซ้อนกัน

คลาส LlmInference.LlmInferenceOptions ตัวเลือกในการตั้งค่าLlmInference

วิธีการสาธารณะ

void	close() ปิดและล้าง `LlmInference`
ภาพนิ่ง LlmInference	createFromOptions(บริบทบริบท, ตัวเลือก LlmInference.LlmInferenceOptions) สร้างงาน LlmInference
String	generateResponse(ข้อความอินพุต String) สร้างคำตอบตามข้อความที่ป้อน
void	generateResponseAsync(อินพุตข้อความ String) สร้างคำตอบตามข้อความที่ป้อน
int	sizeInTokens(ข้อความ สตริง) เรียกใช้การเรียกใช้เฉพาะการแปลงข้อมูลเป็นโทเค็นสำหรับ LLM และแสดงผลขนาด (ในโทเค็น) ของผลลัพธ์

วิธีการที่รับช่วงมา

จากคลาส java.lang.Object

boolean	เท่ากับ(อาร์กิวเมนต์ออบเจ็กต์)
ขั้นสุดท้าย คลาส<?>	getClass()
int	hashCode()
ขั้นสุดท้าย โมฆะ	notify()
ขั้นสุดท้าย โมฆะ	notifyAll()
String	toString()
ขั้นสุดท้าย โมฆะ	wait(long arg0, int arg1)
ขั้นสุดท้าย โมฆะ	wait(อาร์กิวเมนต์ยาว0)
ขั้นสุดท้าย โมฆะ	รอ()

จากอินเทอร์เฟซ java.lang.AutoCloseable

นามธรรม โมฆะ

close()

วิธีการสาธารณะ

สาธารณะ โมฆะ ปิด ()

ปิดและล้าง LlmInference

สาธารณะ แบบคงที่ LlmInference createFromOptions (บริบทบริบท, ตัวเลือก LlmInference.LlmInferenceOptions)

สร้างงาน LlmInference

พารามิเตอร์

บริบท
ตัวเลือก

สาธารณะ สตริง generateResponse (สตริงอินพุตText)

สร้างคำตอบตามข้อความที่ป้อน

พารามิเตอร์

inputText	`String`สำหรับการประมวลผล

การขว้าง

	ถ้าการอนุมานล้มเหลว

สาธารณะ void generateResponseAsync (String ให้ป้อนText)

สร้างคำตอบตามข้อความที่ป้อน

พารามิเตอร์

inputText	`String`สำหรับการประมวลผล

การขว้าง

	ถ้าการอนุมานล้มเหลว

สาธารณะ int sizeInTokens (ข้อความ String)

เรียกใช้การเรียกใช้เฉพาะการแปลงข้อมูลเป็นโทเค็นสำหรับ LLM และแสดงผลขนาด (ในโทเค็น) ของผลลัพธ์ เรียกไม่ได้ในขณะที่มีการใช้งานการค้นหา generateResponse(String) อยู่ generateResponse

พารามิเตอร์

ข้อความ	ข้อความที่จะแปลงเป็นโทเค็น

การคืนสินค้า

จำนวนโทเค็นในการแปลงข้อความเป็นโทเค็นที่เป็นผลลัพธ์ของ

การขว้าง

	หากการแปลงข้อมูลเป็นโทเค็นล้มเหลว