Pobieranie i integrowanie gotowego pliku binarnego LiteRT C++

W aplikacjach możesz używać gotowych bibliotek C++ bez tworzenia całego drzewa źródeł LiteRT. Integrację można przeprowadzić za pomocą CMake.

Poniżej znajdziesz podstawowe kroki korzystania z interfejsu LiteRT CompiledModel API w kodzie C++.

Pobieranie gotowej biblioteki udostępnionej środowiska wykonawczego LiteRT

Pobierz bibliotekę współdzieloną środowiska wykonawczego LiteRT, korzystając z tych linków:

Platforma Wersja Biblioteka środowiska wykonawczego LiteRT
android_arm64 najnowsze libLiteRt.so
linux_x86_64 najnowsze libLiteRt.so
linux_arm64 najnowsze libLiteRt.so
macos_arm64 najnowsze libLiteRt.dylib
windows_x86_64 najnowsze libLiteRt.dll

Pobieranie gotowych akceleratorów GPU

Jeśli potrzebujesz akceleracji GPU, musisz użyć akceleratora GPU. Ponieważ nie jest to jeszcze projekt open source, musisz pobrać gotowe wersje.

Oto dostępne akceleratory GPU.

Platforma Wersja Akcelerator GPU Backend
android_arm64 najnowsze libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 najnowsze libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 najnowsze libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 najnowsze libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 najnowsze libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Przygotowywanie gotowej biblioteki LiteRT C++

Wybierz folder, w którym chcesz umieścić pakiet LiteRT C++ SDK. Będziemy go nazywać <litert_cc_sdk_location>.

  1. Pobierz pakiet C++ SDK

    Musisz przygotować niezbędne pliki (CMakeLists.txt, pliki źródłowe i nagłówkowe) z pliku ZIP pakietu LiteRT C++ SDK w folderze <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Umieść pobrany plik libLiteRt.so w folderze <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Tworzenie biblioteki i run_model_simple narzędzia.

    Do utworzenia LiteRT wymagane jest clang. Skonfiguruj pakiet SDK C++ i narzędzia do kompilacji w ten sposób:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Integracja gotowej biblioteki LiteRT C++

  1. Zaktualizuj CMakeLists.txt, aby korzystać z interfejsu LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)