زیر کلاس های مستقیم شناخته شده |
گزینه های نمایندگی
کلاس های تو در تو
enum | GpuDelegateFactory.Options.GpuBackend | کدام باطن GPU را انتخاب کنید. |
ثابت ها
بین المللی | INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER | Delegate فقط یک بار استفاده می شود، بنابراین، زمان راه انداز/init باید در نظر گرفته شود. |
بین المللی | INFERENCE_PREFERENCE_SUSTAINED_SPEED | ترجیح می دهند توان عملیاتی را به حداکثر برسانند. |
سازندگان عمومی
گزینه ها () |
روش های عمومی
بولی | |
GpuDelegateFactory.Options.GpuBackend | |
بین المللی | |
رشته | |
رشته | |
بولی | |
GpuDelegateFactory.Options | |
GpuDelegateFactory.Options | setInferencePreference (ترجیح int) اولویت استنتاج را برای مبادلات دقیق / کامپایل / زمان اجرا تنظیم می کند. |
GpuDelegateFactory.Options | setPrecisionLossAllowed (دقت بولی LossAllowed) تعیین می کند که آیا از دست دادن دقیق مجاز است یا خیر. |
GpuDelegateFactory.Options | setQuantizedModelsAllowed (بولی کوانتیزه شدهModelsAllowed) اجرای مدل های کوانتیزه شده با نماینده را فعال می کند. |
GpuDelegateFactory.Options | setSerializationParams ( String serializationDir, String modelToken) سریال سازی را در نماینده فعال می کند. |
روش های ارثی
ثابت ها
نهایی استاتیک عمومی INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER
Delegate فقط یک بار استفاده می شود، بنابراین، زمان راه انداز/init باید در نظر گرفته شود.
نهایی استاتیک عمومی INFERENCE_PREFERENCE_SUSTAINED_SPEED
ترجیح می دهند توان عملیاتی را به حداکثر برسانند. همان نماینده به طور مکرر در چندین ورودی استفاده می شود.
سازندگان عمومی
گزینه های عمومی ()
روش های عمومی
بولین عمومی areQuantizedModelsAllowed ()
public int getInferencePreference ()
بولین عمومی isPrecisionLossAllowed ()
عمومی GpuDelegateFactory.Options setForceBackend ( GpuDelegateFactory.Options.GpuBackend forceBackend)
GPU Backend را تنظیم می کند.
مولفه های
forceBackend |
---|
عمومی GpuDelegateFactory.Options setInferencePreference (int preference)
اولویت استنتاج را برای مبادلات دقیق / کامپایل / زمان اجرا تنظیم می کند.
مولفه های
ترجیح | یکی از «INFERENCE_PREFERENCE_FAST_SINGLE_ANSWER» (پیشفرض)، «INFERENCE_PREFERENCE_SUSTAINED_SPEED». |
---|
عمومی GpuDelegateFactory.Options setPrecisionLossAllowed (دقت بولی LossAllowed)
تعیین می کند که آیا از دست دادن دقیق مجاز است یا خیر.
مولفه های
precisionLossAllowed | زمانی که «true» (پیشفرض)، GPU ممکن است تانسورها، مقادیر downcast، پردازش را در FP16 کمیت کند. وقتی "نادرست" است، محاسبات در ممیز شناور 32 بیتی انجام می شود. |
---|
عمومی GpuDelegateFactory.Options setQuantizedModelsAllowed (بولی quantizedModelsAllowed)
اجرای مدل های کوانتیزه شده با نماینده را فعال می کند.
هشدار: این یک API آزمایشی است و ممکن است تغییر کند.
مولفه های
quantizedModelsAllowed | وقتی true (پیشفرض)، GPU ممکن است مدلهای کوانتیزه را اجرا کند. |
---|
عمومی GpuDelegateFactory.Options setSerializationParams ( String serializationDir, String modelToken)
سریال سازی را در نماینده فعال می کند. توجه داشته باشید که serializationDir
غیر تهیDir و modelToken
برای سریالسازی مورد نیاز است.
هشدار: این یک API آزمایشی است و ممکن است تغییر کند.
مولفه های
serializationDir | دایرکتوری مورد استفاده برای ذخیره سازی داده ها تماس گیرنده مسئول این است که مطمئن شود مدل در یک فهرست عمومی ذخیره نمی شود. توصیه می شود از Context.getCodeCacheDir() برای ارائه یک مکان خصوصی برای برنامه در Android استفاده کنید. |
---|---|
modelToken | نشانه ای که برای شناسایی مدل استفاده می شود. تماس گیرنده مسئول اطمینان از منحصر به فرد بودن توکن برای نمودار مدل و داده است. |