您可以在應用程式中使用預先建構的 C++ 程式庫,不必建構整個 LiteRT 來源樹狀結構。整合作業可透過 CMake 完成。
以下說明在 C++ 程式碼中使用 LiteRT CompiledModel API 的基本步驟。
下載預建的 LiteRT 執行階段共用程式庫
請按照下列連結下載 LiteRT 執行階段共用程式庫:
| 平台 | 版本 | LiteRT 執行階段程式庫 |
|---|---|---|
| android_arm64 | 最新 | libLiteRt.so |
| linux_x86_64 | 最新 | libLiteRt.so |
| linux_arm64 | 最新 | libLiteRt.so |
| macos_arm64 | 最新 | libLiteRt.dylib |
| windows_x86_64 | 最新 | libLiteRt.dll |
下載預先建構的 GPU 加速器
如要使用 GPU 加速功能,必須搭配 GPU 加速器。由於尚未開放原始碼,您需要下載預先建構的項目。
以下是可用的 GPU 加速器。
| 平台 | 版本 | GPU 加速器 | 後端 |
|---|---|---|---|
| android_arm64 | 最新 | libLiteRtGpuAccelerator.so | OpenCL + OpenGL |
| linux_x86_64 | 最新 | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| linux_arm64 | 最新 | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| macos_arm64 | 最新 | libLiteRtMetalAccelerator.dylib | 金屬 |
| windows_x86_64 | 最新 | libLiteRtWebGpuAccelerator.dll | WebGPU (Direct3D) |
準備預先建構的 LiteRT C++ 程式庫
選擇要存放 LiteRT C++ SDK 的資料夾。我們將其稱為 <litert_cc_sdk_location>。
下載 C++ SDK
您需要準備 LiteRT C++ SDK zip 檔案中
<litert_cc_sdk_location>下的必要檔案 (CMakeLists.txt、來源和標頭檔案)。wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>將下載的
libLiteRt.so放在<litert_cc_sdk_location>下方。cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/建構程式庫和
run_model_simple工具。LiteRT 需要
clang才能建構。請按照下列步驟設定 C++ SDK 和建構工具:cd <litert_cc_sdk_location> cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++ cmake --build litert_cc_sdk_build -j
整合預建的 LiteRT C++ 程式庫
更新
CMakeLists.txt以使用 LiteRT API。add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build") include_directories("<litert_cc_sdk_location>") target_link_libraries(${CMAKE_PROJECT_NAME} # Use `litert_cc_api` for LiteRT C++ SDK litert_cc_api android log)