Delegate für GPU-Inferenz.
Hinweis: Beim Aufrufen von Interpreter.Options.addDelegate() und Interpreter.run() muss der Aufrufer eine EGLContext im aktuellen Thread haben und Interpreter.run() muss aus demselben EGLContext aufgerufen werden. Wenn kein EGLContext vorhanden ist, erstellt der Bevollmächtigte intern eine solche Adresse. Der Entwickler muss dann jedoch dafür sorgen, dass Interpreter.run() immer aus demselben Thread aufgerufen wird, in dem Interpreter.Options.addDelegate() aufgerufen wurde.
Verschachtelte Klassen
| Klasse | GpuDelegate.Options |
Diese Klasse wurde eingestellt. Verwenden Sie stattdessen GpuDelegateFactory.Options.
|
|
Public Constructors
|
GpuDelegate(GpuDelegateFactory.Options-Optionen)
|
|
Public Methods
| void |
close()
Gibt TFLite-Ressourcen in der C-Laufzeit frei.
|
| long |
getNativeHandle()
Gibt einen nativen Handle an die Implementierung des TensorFlow Lite-Delegaten zurück.
|
Übernommene Methoden
Public Constructors
public GpuDelegate ()
Public Methods
public void close ()
Gibt TFLite-Ressourcen in der C-Laufzeit frei.
Es wird erwartet, dass der Nutzer diese Methode explizit aufruft.
public long getNativeHandle ()
Gibt einen nativen Handle an die Implementierung des TensorFlow Lite-Delegaten zurück.
Hinweis: Die Java-Delegate-Instanz behält die Inhaberschaft der nativen Delegate-Instanz und muss sicherstellen, dass sie für die Dauer der Nutzung bei einer InterpreterApi-Instanz vorhanden ist.
Hinweis: Die native Delegate-Instanz kann erst erstellt werden, wenn der Delegate an einen Interpreter angehängt wurde. Daher sollte diese Methode erst aufgerufen werden, nachdem ein Interpreter mit diesem Delegaten erstellt wurde.
Rückgabe
- Die Handle des nativen Delegaten. In C/C++ sollte dies ein Zeiger auf „TfLiteOpaqueDelegate“ sein.