lớp tĩnh công khai
GpuDelegateFactory.Options
Lớp con trực tiếp đã biết |
Tuỳ chọn uỷ quyền.
Lớp lồng ghép
enum | GpuDelegateFactory.Options.GpuBackend | Chọn phần phụ trợ GPU nào. |
Hằng số
int | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | Người được uỷ quyền sẽ chỉ được sử dụng một lần, do đó, bạn cần tính đến thời gian tự khởi động/thời gian bắt đầu. |
int | INFERENCE_PREFERENCE_SUSTAINED_SPEED | Ưu tiên tối đa hoá công suất. |
Công trình công cộng
Tuỳ chọn()
|
Phương thức công khai
boolean | |
GpuDelegateFactory.Options.GpuBackend |
Hàm getForceBackend()
|
int |
Hàm getInferencePreference()
|
String | |
String |
Hàm getSerializationDir()
|
boolean | |
GpuDelegateFactory.Options | |
GpuDelegateFactory.Options |
setInferencePreference(tuỳ chọn int)
Đặt lựa chọn ưu tiên dự đoán cho các lựa chọn đánh đổi về độ chính xác/biên dịch/thời gian chạy.
|
GpuDelegateFactory.Options |
setPrecisionLossAllowed(độ chính xác boolean mấtsAllowed)
Thiết lập xem có được phép mất độ chính xác hay không.
|
GpuDelegateFactory.Options |
setQuantizedModelsAllowed(boolean quantizedModelsAllowed)
Cho phép chạy các mô hình lượng tử hoá với thực thể đại diện.
|
GpuDelegateFactory.Options |
setSerializationParams(String serializationDir, String modelToken)
Bật chuyển đổi tuần tự trên ủy quyền.
|
Các phương thức kế thừa
Hằng số
công khai tĩnh cuối cùng int INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
Người được uỷ quyền sẽ chỉ được sử dụng một lần, do đó, bạn cần tính đến thời gian tự khởi động/thời gian bắt đầu.
Giá trị hằng số:
0
công khai tĩnh cuối cùng int INFERENCE_PREFERENCE_SUSTAINED_SPEED
Ưu tiên tối đa hoá công suất. Thực thể đại diện tương tự sẽ được sử dụng nhiều lần trên nhiều dữ liệu đầu vào.
Giá trị hằng số:
1
Công trình công cộng
công khai Tuỳ chọn ()
Phương thức công khai
công khai boolean areQuantizedModelsAllowed ()
công khai int getInferencePreference ()
công khai boolean isPrecisionLossAllowed ()
công khai GpuDelegateFactory.Options setForceBackend (GpuDelegateFactory.Options.GpuBackend forceBackend)
Thiết lập Phần phụ trợ GPU.
Thông số
forceBackend |
---|
công khai GpuDelegateFactory.Options setInferencePreference (tuỳ chọn int)
Đặt lựa chọn ưu tiên dự đoán cho các lựa chọn đánh đổi về độ chính xác/biên dịch/thời gian chạy.
Thông số
lựa chọn ưu tiên | Một trong các giá trị "INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER" (mặc định) và "INFERENCE_PREFERENCE_SUSTAINED_". |
---|
công khai GpuDelegateFactory.Options setPrecisionLossAllowed (boolean precisionLossAllowed)
Thiết lập xem có được phép mất độ chính xác hay không.
Thông số
precisionLossAllowed | Khi giá trị "true" (mặc định) là "true", GPU có thể định lượng tensor, các giá trị truyền xuống (downcast), xử lý trong FP16. Khi giá trị "false" (sai), các phép |
---|