Obsługa OpenGL ES
MediaPipe obsługuje standard OpenGL ES do wersji 3.2 w systemach Android/Linux i do ES 3.0 na iOS. Dodatkowo MediaPipe obsługuje również Metal na iOS.
Do uruchamiania wymagany jest interfejs OpenGL ES 3.1 lub nowszy (w systemach Android/Linux) kalkulatorów i wykresów wnioskowania z systemów uczących się.
Wyłącz obsługę OpenGL ES
Domyślnie podczas kompilacji MediaPipe (bez specjalnych flag bazelowych) podejmowana jest próba skompilowania i połączysz z bibliotekami OpenGL ES (a w przypadku iOS także metalem).
Na platformach, na których standard OpenGL ES jest niedostępny (zobacz też Konfiguracja OpenGL ES na komputerze z systemem Linux), należy wyłączyć obsługę OpenGL ES za pomocą:
$ bazel build --define MEDIAPIPE_DISABLE_GPU=1 <my-target>
Konfiguracja OpenGL ES na komputerze z systemem Linux
Na komputerach z systemem Linux i kartami wideo obsługującymi standard OpenGL ES 3.1 lub nowszym można uruchomić MediaPipe Procesory obliczeniowe i renderowanie oraz przeprowadzanie wnioskowania TFLite na GPU.
Aby sprawdzić, czy procesor MediaPipe w komputerze z Linuksem może działać w środowisku OpenGL ES:
$ sudo apt-get install mesa-common-dev libegl1-mesa-dev libgles2-mesa-dev
$ sudo apt-get install mesa-utils
$ glxinfo | grep -i opengl
Może na przykład wyświetlić:
$ glxinfo | grep -i opengl
...
OpenGL ES profile version string: OpenGL ES 3.2 NVIDIA 430.50
OpenGL ES profile shading language version string: OpenGL ES GLSL ES 3.20
OpenGL ES profile extensions:
Jeśli łączysz się z komputerem przez SSH i sprawdź, kiedy Informacje o GPU, które pojawiają się w wyniku:
glxinfo | grep -i opengl
Error: unable to open display
Ponownie nawiąż połączenie SSH przy użyciu opcji -X i spróbuj jeszcze raz. Przykład:
ssh -X <user>@<host>
Zwróć uwagę na powyższy tekst ES w wersji 3.20.
Aby wnioskować TFLite, musisz wydrukować wersję ES 3.1 lub nowszą. na GPU w MediaPipe. W przypadku tej konfiguracji kompiluj za pomocą:
$ bazel build --copt -DMESA_EGL_NO_X11_HEADERS --copt -DEGL_NO_X11 <my-target>
Jeśli obsługiwana jest tylko wersja ES 3.0 lub starsza, nadal możesz tworzyć cele MediaPipe, które nie wymagają wnioskowania TFLite w przypadku GPU, gdy:
$ bazel build --copt -DMESA_EGL_NO_X11_HEADERS --copt -DEGL_NO_X11 --copt -DMEDIAPIPE_DISABLE_GL_COMPUTE <my-target>
Obsługa i konfiguracja TensorFlow CUDA na komputerze z systemem Linux
Platforma MediaPipe nie wymaga CUDA do obliczeń i renderowania za pomocą GPU. Pamiętaj jednak: MediaPipe może korzystać z TensorFlow, aby wnioskować na podstawie GPU w przypadku kart wideo, obsługi CUDA.
Aby włączyć wnioskowanie z wykorzystaniem GPU TensorFlow za pomocą MediaPipe, najpierw Dokumentacja GPU TensorFlow zainstalować wymagane oprogramowanie NVIDIA na komputerze z systemem Linux.
Po instalacji zaktualizuj $PATH i $LD_LIBRARY_PATH, a potem uruchom ldconfig
z:
$ export PATH=/usr/local/cuda-10.1/bin${PATH:+:${PATH}}
$ export LD_LIBRARY_PATH=/usr/local/cuda/extras/CUPTI/lib64,/usr/local/cuda-10.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
$ sudo ldconfig
Zalecamy zweryfikowanie instalacji systemów CUPTI, CUDA, CuDNN i NVCC:
$ ls /usr/local/cuda/extras/CUPTI
/lib64
libcupti.so libcupti.so.10.1.208 libnvperf_host.so libnvperf_target.so
libcupti.so.10.1 libcupti_static.a libnvperf_host_static.a
$ ls /usr/local/cuda-10.1
LICENSE bin extras lib64 libnvvp nvml samples src tools
README doc include libnsight nsightee_plugins nvvm share targets version.txt
$ nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2019 NVIDIA Corporation
Built on Sun_Jul_28_19:07:16_PDT_2019
Cuda compilation tools, release 10.1, V10.1.243
$ ls /usr/lib/x86_64-linux-gnu/ | grep libcudnn.so
libcudnn.so
libcudnn.so.7
libcudnn.so.7.6.4
Ustawienie $TF_CUDA_PATHS umożliwia zadeklarowanie, gdzie znajduje się biblioteka CUDA. Notatka
że ten fragment kodu dodaje też /usr/lib/x86_64-linux-gnu i
/usr/include na $TF_CUDA_PATHS: cudablas i libcudnn.
$ export TF_CUDA_PATHS=/usr/local/cuda-10.1,/usr/lib/x86_64-linux-gnu,/usr/include
Aby umożliwić MediaPipe pobieranie ustawień CUDA w TensorFlow, znajdź TensorFlow
.bazelrc oraz
skopiuj sekcje build:using_cuda i build:cuda do pliku .bazelrc MediaPipe
. Na przykład od 23 kwietnia 2020 r. ustawieniem CUDA w TensorFlow jest
:
# This config refers to building with CUDA available. It does not necessarily
# mean that we build CUDA op kernels.
build:using_cuda --define=using_cuda=true
build:using_cuda --action_env TF_NEED_CUDA=1
build:using_cuda --crosstool_top=@local_config_cuda//crosstool:toolchain
# This config refers to building CUDA op kernels with nvcc.
build:cuda --config=using_cuda
build:cuda --define=using_cuda_nvcc=true
Na koniec skompiluj MediaPipe z użyciem GPU TensorFlow z 2 dodatkowymi flagami --config=cuda
i --spawn_strategy=local. Na przykład:
$ bazel build -c opt --config=cuda --spawn_strategy=local \
--define no_aws_support=true --copt -DMESA_EGL_NO_X11_HEADERS \
mediapipe/examples/desktop/object_detection:object_detection_tensorflow
Gdy plik binarny jest uruchomiony, wyświetla informacje o urządzeniu GPU:
I external/org_tensorflow/tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully opened dynamic library libcuda.so.1
I external/org_tensorflow/tensorflow/core/common_runtime/gpu/gpu_device.cc:1544] Found device 0 with properties: pciBusID: 0000:00:04.0 name: Tesla T4 computeCapability: 7.5 coreClock: 1.59GHz coreCount: 40 deviceMemorySize: 14.75GiB deviceMemoryBandwidth: 298.08GiB/s
I external/org_tensorflow/tensorflow/core/common_runtime/gpu/gpu_device.cc:1686] Adding visible gpu devices: 0
Możesz monitorować wykorzystanie GPU, aby sprawdzić, czy jest on używany w modelu wnioskowania.
$ nvidia-smi --query-gpu=utilization.gpu --format=csv --loop=1
0 %
0 %
4 %
5 %
83 %
21 %
22 %
27 %
29 %
100 %
0 %
0%