下載並整合預先建構的 LiteRT C++ 二進位檔

您可以在應用程式中使用預先建構的 C++ 程式庫,不必建構整個 LiteRT 來源樹狀結構。整合作業可透過 CMake 完成。

以下說明在 C++ 程式碼中使用 LiteRT CompiledModel API 的基本步驟。

下載預建的 LiteRT 執行階段共用程式庫

請按照下列連結下載 LiteRT 執行階段共用程式庫:

平台 版本 LiteRT 執行階段程式庫
android_arm64 最新 libLiteRt.so
linux_x86_64 最新 libLiteRt.so
linux_arm64 最新 libLiteRt.so
macos_arm64 最新 libLiteRt.dylib
windows_x86_64 最新 libLiteRt.dll

下載預先建構的 GPU 加速器

如要使用 GPU 加速功能,必須搭配 GPU 加速器。由於尚未開放原始碼,您需要下載預先建構的項目。

以下是可用的 GPU 加速器。

平台 版本 GPU 加速器 後端
android_arm64 最新 libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 最新 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 最新 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 最新 libLiteRtMetalAccelerator.dylib 金屬
windows_x86_64 最新 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

準備預先建構的 LiteRT C++ 程式庫

選擇要存放 LiteRT C++ SDK 的資料夾。我們將其稱為 <litert_cc_sdk_location>

  1. 下載 C++ SDK

    您需要準備 LiteRT C++ SDK zip 檔案中 <litert_cc_sdk_location> 下的必要檔案 (CMakeLists.txt、來源和標頭檔案)。

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. 將下載的 libLiteRt.so 放在 <litert_cc_sdk_location> 下方。

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. 建構程式庫和 run_model_simple 工具。

    LiteRT 需要 clang 才能建構。請按照下列步驟設定 C++ SDK 和建構工具:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

整合預建的 LiteRT C++ 程式庫

  1. 更新 CMakeLists.txt 以使用 LiteRT API。

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)