Xin giới thiệu LiteRT: Môi trường thời gian chạy hiệu suất cao của Google dành cho AI trên thiết bị, trước đây là TensorFlow Lite.

Trang này được dịch bởi Cloud Translation API.

LlmInference.LlmInferenceOptions.Builder

lớp trừu tượng tĩnh công khai LlmInference.LlmInferenceOptions.Builder

Trình tạo cho LlmInference.LlmInferenceOptions.

Công trình công cộng

Builder()

Phương thức công khai

cuối cùng LlmInference.LlmInferenceOptions	build() Xác thực và tạo thực thể `ERROR(/ImageGeneratorOptions)`.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setErrorListener(trình nghe ErrorListener) Thiết lập trình nghe lỗi để gọi bằng API không đồng bộ.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setLoraPath(Chuỗi loraPath) Đường dẫn tuyệt đối đến gói tài sản mô hình LoRA được lưu trữ trên thiết bị.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setMaxTokens(int maxTokens) Định cấu hình tổng số mã thông báo cho dữ liệu đầu vào và đầu ra).
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setModelPath(Chuỗi modelPath) Thiết lập đường dẫn mô hình cho tác vụ tạo văn bản.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setRandomSeed(int randomSeed) Định cấu hình nội dung gốc ngẫu nhiên cho mã thông báo lấy mẫu.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setResultListener(ProgressListener<String> trình nghe) Thiết lập trình nghe kết quả để gọi bằng API không đồng bộ.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setTemperature(nhiệt độ nổi) Định cấu hình tính ngẫu nhiên khi giải mã mã thông báo tiếp theo.
bản tóm tắt LlmInference.LlmInferenceOptions.Builder	setTopK(int topK) Định cấu hình số lượng mã thông báo hàng đầu cần lấy mẫu cho mỗi bước giải mã.

Các phương thức kế thừa

Từ lớp java.lang.Object

boolean	bằng(Đối tượng arg0)
cuối cùng Lớp<?>	getClass()
int	hashCode()
cuối cùng vô hiệu	notify()
cuối cùng vô hiệu	notifyAll()
String	toString()
cuối cùng vô hiệu	wait(long arg0; int arg1)
cuối cùng vô hiệu	chờ(đối số dài0)
cuối cùng vô hiệu	wait()

Công trình công cộng

công khai Trình tạo ()

Phương thức công khai

công khai cuối cùng LlmInference.LlmInferenceOptions build ()

Xác thực và tạo thực thể ERROR(/ImageGeneratorOptions).

công khai trừu tượng LlmInference.LlmInferenceOptions.Builder setErrorListener (trình nghe ErrorListener)

Thiết lập trình nghe lỗi để gọi bằng API không đồng bộ.

Tham số

trình nghe

công khai trừu tượng LlmInference.LlmInferenceOptions.Builder setLoraPath (String loraPath)

Đường dẫn tuyệt đối đến gói tài sản mô hình LoRA được lưu trữ trên thiết bị. Tính năng này chỉ tương thích với các mẫu GPU.

Tham số

loraPath

công khai trừu tượng LlmInference.LlmInferenceOptions.Builder setMaxTokens (int maxTokens)

Định cấu hình tổng số mã thông báo cho dữ liệu đầu vào và đầu ra).

Tham số

maxTokens

công khai trừu tượng LlmInference.LlmInferenceOptions.Builder setModelPath (String modelPath)

Thiết lập đường dẫn mô hình cho tác vụ tạo văn bản.

Tham số

modelPath

công khai bản tóm tắt LlmInference.LlmInferenceOptions.Builder setRandomSeed (int randomSeed)

Định cấu hình nội dung gốc ngẫu nhiên cho mã thông báo lấy mẫu.

Tham số

randomSeed

công khai trừu tượng LlmInference.LlmInferenceOptions.Builder setResultListener (ProgressListener<Chuỗi> trình nghe)

Thiết lập trình nghe kết quả để gọi bằng API không đồng bộ.

Tham số

trình nghe

công khai bản tóm tắt LlmInference.LlmInferenceOptions.Builder setTemperature (nhiệt độ nổi)

Định cấu hình tính ngẫu nhiên khi giải mã mã thông báo tiếp theo. Giá trị 0,0f có nghĩa là giải mã tham lam. Giá trị mặc định là 0,8f.

Tham số

nhiệt độ

công khai bản tóm tắt LlmInference.LlmInferenceOptions.Builder setTopK (int topK)

Định cấu hình số lượng mã thông báo hàng đầu cần lấy mẫu cho mỗi bước giải mã. Giá trị 1 có nghĩa là quá trình giải mã tham lam. Giá trị mặc định là 40.

Tham số

topK