사전 빌드된 LiteRT C++ 바이너리 다운로드 및 통합

전체 LiteRT 소스 트리를 빌드하지 않고도 애플리케이션에서 사전 빌드된 C++ 라이브러리를 사용할 수 있습니다. 통합은 CMake로 할 수 있습니다.

다음은 C++ 코드에서 LiteRT CompiledModel API를 사용하는 기본 단계를 보여줍니다.

미리 빌드된 LiteRT 런타임 공유 라이브러리 다운로드

링크를 따라 LiteRT 런타임 공유 라이브러리를 다운로드합니다.

플랫폼 버전 LiteRT 런타임 라이브러리
android_arm64 latest libLiteRt.so
linux_x86_64 latest libLiteRt.so
linux_arm64 latest libLiteRt.so
macos_arm64 latest libLiteRt.dylib
windows_x86_64 latest libLiteRt.dll

사전 빌드된 GPU 가속기 다운로드

GPU 가속이 필요한 경우 GPU 가속기가 필요합니다. 아직 오픈소스가 아니므로 미리 빌드를 다운로드해야 합니다.

사용 가능한 GPU 가속기는 다음과 같습니다.

플랫폼 버전 GPU 가속기 백엔드
android_arm64 latest libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 latest libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 latest libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 latest libLiteRtMetalAccelerator.dylib 메탈
windows_x86_64 latest libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

미리 빌드된 LiteRT C++ 라이브러리 준비

LiteRT C++ SDK를 호스팅할 폴더를 선택합니다. 이를 <litert_cc_sdk_location>라고 하겠습니다.

  1. C++ SDK 다운로드

    <litert_cc_sdk_location> 아래의 LiteRT C++ SDK zip 파일에서 필요한 파일 (CMakeLists.txt, 소스 및 헤더 파일)을 준비해야 합니다.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. 다운로드한 libLiteRt.so<litert_cc_sdk_location> 아래에 배치합니다.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. 라이브러리와 run_model_simple 도구를 빌드합니다.

    LiteRT는 빌드하려면 clang가 필요합니다. 다음과 같이 C++ SDK 및 빌드 도구를 구성합니다.

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

미리 빌드된 LiteRT C++ 라이브러리 통합

  1. LiteRT API를 사용하도록 CMakeLists.txt를 업데이트합니다.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)