Télécharger et intégrer le binaire C++ LiteRT précompilé

Vous pouvez utiliser des bibliothèques C++ précompilées dans vos applications sans compiler l'intégralité de l'arborescence source LiteRT. L'intégration peut être effectuée avec CMake.

Vous trouverez ci-dessous les étapes de base pour utiliser l'API LiteRT CompiledModel dans votre code C++.

Télécharger la bibliothèque partagée de l'environnement d'exécution LiteRT prédéfini

Téléchargez la bibliothèque partagée d'exécution LiteRT en suivant les liens :

Plate-forme Version Bibliothèque d'exécution LiteRT
android_arm64 dernière libLiteRt.so
linux_x86_64 dernière libLiteRt.so
linux_arm64 dernière libLiteRt.so
macos_arm64 dernière libLiteRt.dylib
windows_x86_64 dernière libLiteRt.dll

Télécharger des accélérateurs GPU prédéfinis

Si vous avez besoin de l'accélération GPU, vous devez utiliser un accélérateur GPU. Comme il n'est pas encore open source, vous devez télécharger les précompilés.

Voici les accélérateurs de GPU disponibles.

Plate-forme Version Accélérateur GPU Backend
android_arm64 dernière libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 dernière libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 dernière libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 dernière libLiteRtMetalAccelerator.dylib Métal
windows_x86_64 dernière libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Préparer la bibliothèque C++ LiteRT prédéfinie

Choisissez un dossier pour héberger le SDK LiteRT C++. Nous l'appellerons <litert_cc_sdk_location>.

  1. Télécharger le SDK C++

    Vous devez préparer les fichiers nécessaires (CMakeLists.txt, fichiers sources et d'en-tête) à partir du fichier zip du SDK LiteRT C++ sous <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Placez le libLiteRt.so téléchargé sous <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Compilez la bibliothèque et l'outil run_model_simple.

    LiteRT a besoin de clang pour la compilation. Configurez le SDK C++ et les outils de compilation comme suit :

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Intégrer la bibliothèque C++ LiteRT prédéfinie

  1. Mettez à jour votre CMakeLists.txt pour utiliser l'API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)