Télécharger et intégrer le binaire C++ LiteRT précompilé

Vous pouvez utiliser des bibliothèques C++ prédéfinies dans vos applications sans créer l'arborescence source LiteRT complète. L'intégration peut être effectuée avec CMake.

La procédure de base suivante explique comment utiliser l'API LiteRT CompiledModel dans votre code C++.

Télécharger la bibliothèque partagée d'exécution LiteRT prédéfinie

Téléchargez la bibliothèque partagée d'exécution LiteRT en suivant les liens ci-dessous :

Plate-forme Version Bibliothèque d'exécution LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Télécharger les accélérateurs GPU prédéfinis

Si vous avez besoin de l'accélération GPU, vous devez utiliser un accélérateur GPU. Comme il n'est pas encore Open Source, vous devez télécharger des éléments prédéfinis.

Voici les accélérateurs GPU disponibles.

Plate-forme Version Accélérateur GPU Backend
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Métal
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Préparer la bibliothèque C++ LiteRT prédéfinie

Choisissez un dossier pour héberger le SDK C++ LiteRT. Nous l'appellerons <litert_cc_sdk_location>.

  1. Télécharger le SDK C++

    Vous devez préparer les fichiers nécessaires (CMakeLists.txt, fichiers sources et d'en-tête) à partir du fichier zip du SDK C++ LiteRT sous <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Placez le fichier libLiteRt.so téléchargé sous <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Créez la bibliothèque et l'outil run_model_simple.

    LiteRT a besoin de clang pour la compilation. Configurez le SDK C++ et les outils de compilation comme suit :

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Intégrer la bibliothèque C++ LiteRT prédéfinie

  1. Mettez à jour votre fichier CMakeLists.txt pour utiliser l'API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)