Pobieranie i integrowanie gotowego pliku binarnego LiteRT C++

W aplikacjach możesz używać gotowych bibliotek C++ bez kompilowania całego drzewa źródeł LiteRT. Integrację można przeprowadzić za pomocą CMake.

Poniżej znajdziesz podstawowe kroki korzystania z interfejsu LiteRT CompiledModel API w kodzie C++.

Pobieranie gotowej biblioteki udostępnionej środowiska wykonawczego LiteRT

Pobierz bibliotekę współdzieloną środowiska wykonawczego LiteRT, korzystając z tych linków:

Platforma Wersja Biblioteka środowiska wykonawczego LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Pobieranie gotowych akceleratorów GPU

Jeśli potrzebujesz akceleracji GPU, musisz użyć akceleratora GPU. Ponieważ nie jest to jeszcze oprogramowanie typu open source, musisz pobrać gotowe wersje.

Oto dostępne akceleratory GPU.

Platforma Wersja Akcelerator GPU Backend
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Przygotowywanie gotowej biblioteki LiteRT C++

Wybierz folder, w którym chcesz umieścić pakiet LiteRT C++ SDK. Będziemy je nazywać <litert_cc_sdk_location>.

  1. Pobierz pakiet C++ SDK

    Musisz przygotować niezbędne pliki (CMakeLists.txt, pliki źródłowe i nagłówkowe) z pliku ZIP pakietu LiteRT C++ SDK w sekcji <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Umieść pobrany plik libLiteRt.so w folderze <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Tworzenie biblioteki i run_model_simple narzędzia.

    Do utworzenia LiteRT wymagane jest clang. Skonfiguruj pakiet SDK C++ i narzędzia do kompilacji w ten sposób:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Integracja gotowej biblioteki LiteRT C++

  1. Zaktualizuj CMakeLists.txt, aby korzystać z interfejsu LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)