您可以在应用中使用 prebuilt C++ 库,而无需构建整个 LiteRT 源代码树。可以使用 CMake 完成集成。
以下内容展示了在 C++ 代码中使用 LiteRT CompiledModel API 的基本步骤。
下载预构建的 LiteRT 运行时共享库
按照以下链接下载 LiteRT 运行时共享库:
| 平台 | 版本 | LiteRT 运行时库 |
|---|---|---|
| android_arm64 | 最新 | libLiteRt.so |
| linux_x86_64 | 最新 | libLiteRt.so |
| linux_arm64 | 最新 | libLiteRt.so |
| macos_arm64 | 最新 | libLiteRt.dylib |
| windows_x86_64 | 最新 | libLiteRt.dll |
下载预构建的 GPU 加速器
如果您需要 GPU 加速,则需要 GPU 加速器。由于它尚未开源,因此您需要下载预构建版本。
以下是可用的 GPU 加速器。
| 平台 | 版本 | GPU 加速器 | 后端 |
|---|---|---|---|
| android_arm64 | 最新 | libLiteRtGpuAccelerator.so | OpenCL + OpenGL |
| linux_x86_64 | 最新 | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| linux_arm64 | 最新 | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| macos_arm64 | 最新 | libLiteRtMetalAccelerator.dylib | 金属 |
| windows_x86_64 | 最新 | libLiteRtWebGpuAccelerator.dll | WebGPU (Direct3D) |
准备预构建的 LiteRT C++ 库
选择一个文件夹来托管 LiteRT C++ SDK。我们将其称为 <litert_cc_sdk_location>。
下载 C++ SDK
您需要从
<litert_cc_sdk_location>下的 LiteRT C++ SDK zip 文件中准备必要的文件(CMakeLists.txt、源文件和头文件)。wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>将下载的
libLiteRt.so放在<litert_cc_sdk_location>下。cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/构建库和
run_model_simple工具。LiteRT 需要
clang进行构建。将 C++ SDK 和 build tools 配置为如下所示:cd <litert_cc_sdk_location> cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++ cmake --build litert_cc_sdk_build -j
集成预构建的 LiteRT C++ 库
更新
CMakeLists.txt以使用 LiteRT API。add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build") include_directories("<litert_cc_sdk_location>") target_link_libraries(${CMAKE_PROJECT_NAME} # Use `litert_cc_api` for LiteRT C++ SDK litert_cc_api android log)