Fazer o download e integrar o binário C++ LiteRT pré-criado

É possível usar bibliotecas C++ pré-criadas nos seus aplicativos sem criar toda a árvore de origem do LiteRT. A integração pode ser feita com o CMake.

A seguir, mostramos as etapas básicas para usar a API LiteRT CompiledModel no seu código C++.

Fazer o download da biblioteca compartilhada do ambiente de execução LiteRT pré-compilada

Faça o download da biblioteca compartilhada de ambiente de execução do LiteRT seguindo os links:

Plataforma Versão Biblioteca de ambiente de execução LiteRT
android_arm64 mais recente libLiteRt.so
linux_x86_64 mais recente libLiteRt.so
linux_arm64 mais recente libLiteRt.so
macos_arm64 mais recente libLiteRt.dylib
windows_x86_64 mais recente libLiteRt.dll

Fazer o download de aceleradores de GPU pré-criados

Se você precisar de aceleração de GPU, use o acelerador de GPU. Como ainda não é de código aberto, você precisa baixar binários pré-criados.

Confira os aceleradores de GPU disponíveis.

Plataforma Versão Acelerador de GPU Back-end
android_arm64 mais recente libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 mais recente libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 mais recente libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 mais recente libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 mais recente libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Preparar a biblioteca C++ LiteRT pré-compilada

Escolha uma pasta para hospedar o SDK LiteRT C++. Vamos nos referir a ele como <litert_cc_sdk_location>.

  1. Baixar o SDK para C++

    Prepare os arquivos necessários (CMakeLists.txt, arquivos de origem e de cabeçalho) do arquivo ZIP do SDK LiteRT C++ em <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Coloque o libLiteRt.so baixado em <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Crie a biblioteca e a ferramenta run_model_simple.

    O LiteRT precisa do clang para ser criado. Configure o SDK do C++ e as ferramentas de build da seguinte maneira:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Integrar a biblioteca C++ LiteRT pré-criada

  1. Atualize seu CMakeLists.txt para usar a API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)