Fazer o download e integrar o binário C++ LiteRT pré-criado

É possível usar bibliotecas C++ pré-compiladas nos aplicativos sem criar toda a árvore de origem do LiteRT. A integração pode ser feita com o CMake.

A seguir, mostramos as etapas básicas para usar a API CompiledModel do LiteRT no código C++.

Baixar a biblioteca compartilhada de ambiente de execução do LiteRT pré-compilada

Baixe a biblioteca compartilhada de ambiente de execução do LiteRT seguindo os links:

Plataforma Versão Biblioteca de ambiente de execução do LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Baixar aceleradores de GPU pré-compilados

Se você precisar de aceleração de GPU, será necessário um acelerador de GPU. Como ele ainda não é de código aberto, é necessário baixar as versões pré-compiladas.

Confira os aceleradores de GPU disponíveis.

Plataforma Versão Acelerador de GPU Back-end
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Preparar a biblioteca C++ do LiteRT pré-compilada

Escolha uma pasta para hospedar o SDK C++ do LiteRT. Vamos nos referir a ela como <litert_cc_sdk_location>.

  1. Baixar o SDK C++

    É necessário preparar os arquivos necessários (CMakeLists.txt, arquivos de origem e de cabeçalho arquivos) do arquivo zip do SDK C++ do LiteRT em <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Coloque o libLiteRt.so baixado em <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Crie a biblioteca e a ferramenta run_model_simple.

    O LiteRT precisa do clang para criar. Configure o SDK C++ e as ferramentas de build da seguinte maneira:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Integrar a biblioteca C++ do LiteRT pré-compilada

  1. Atualize o CMakeLists.txt para usar a API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)