下载并集成预构建的 LiteRT C++ 二进制文件

您可以在应用中使用 prebuilt C++ 库,而无需构建整个 LiteRT 源代码树。可以使用 CMake 完成集成。

以下内容展示了在 C++ 代码中使用 LiteRT CompiledModel API 的基本步骤。

下载预构建的 LiteRT 运行时共享库

按照以下链接下载 LiteRT 运行时共享库:

平台 版本 LiteRT 运行时库
android_arm64 最新 libLiteRt.so
linux_x86_64 最新 libLiteRt.so
linux_arm64 最新 libLiteRt.so
macos_arm64 最新 libLiteRt.dylib
windows_x86_64 最新 libLiteRt.dll

下载预构建的 GPU 加速器

如果您需要 GPU 加速,则需要 GPU 加速器。由于它尚未开源,因此您需要下载预构建版本。

以下是可用的 GPU 加速器。

平台 版本 GPU 加速器 后端
android_arm64 最新 libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 最新 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 最新 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 最新 libLiteRtMetalAccelerator.dylib 金属
windows_x86_64 最新 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

准备预构建的 LiteRT C++ 库

选择一个文件夹来托管 LiteRT C++ SDK。我们将其称为 <litert_cc_sdk_location>

  1. 下载 C++ SDK

    您需要从 <litert_cc_sdk_location> 下的 LiteRT C++ SDK zip 文件中准备必要的文件(CMakeLists.txt、源文件和头文件)。

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. 将下载的 libLiteRt.so 放在 <litert_cc_sdk_location> 下。

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. 构建库和 run_model_simple 工具。

    LiteRT 需要 clang 进行构建。将 C++ SDK 和 build tools 配置为如下所示:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

集成预构建的 LiteRT C++ 库

  1. 更新 CMakeLists.txt 以使用 LiteRT API。

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)