Scaricare e integrare il binario C++ LiteRT precompilato

Puoi utilizzare librerie C++ precompilate nelle tue applicazioni senza creare l'intero albero di origine LiteRT. L'integrazione può essere eseguita con CMake.

Di seguito sono riportati i passaggi di base per utilizzare l'API CompiledModel di LiteRT nel codice C++.

Scarica la libreria condivisa di runtime LiteRT precompilata

Scarica la libreria condivisa di runtime LiteRT seguendo i link:

Piattaforma Versione Libreria di runtime LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Scarica gli acceleratori GPU precompilati

Se hai bisogno dell'accelerazione GPU, devi utilizzare l'acceleratore GPU. Poiché non è ancora open source, devi scaricare i precompilati.

Ecco gli acceleratori GPU disponibili.

Piattaforma Versione Acceleratore GPU Backend
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Prepara la libreria C++ LiteRT precompilata

Scegli una cartella in cui ospitare l'SDK C++ LiteRT. La chiameremo <litert_cc_sdk_location>.

  1. Scarica l'SDK C++

    Devi preparare i file necessari (CMakeLists.txt, file di origine e di intestazione file) dal file zip dell'SDK C++ LiteRT in <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Inserisci il file scaricato libLiteRt.so sotto <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Crea la libreria e lo strumento run_model_simple.

    Per la creazione, LiteRT richiede clang. Configura l'SDK C++ e gli strumenti di build come segue:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Integra la libreria C++ LiteRT precompilata

  1. Aggiorna CMakeLists.txt per utilizzare l'API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)