Tải xuống và tích hợp tệp nhị phân C++ LiteRT được tạo sẵn

Bạn có thể sử dụng các thư viện C++ tạo sẵn trong ứng dụng mà không cần tạo toàn bộ cây nguồn LiteRT. Bạn có thể tích hợp bằng CMake.

Sau đây là các bước cơ bản để sử dụng API CompiledModel của LiteRT trong mã C++.

Tải thư viện chia sẻ thời gian chạy LiteRT tạo sẵn xuống

Tải thư viện chia sẻ thời gian chạy LiteRT xuống bằng cách làm theo các đường liên kết sau:

Nền tảng Phiên bản Thư viện thời gian chạy LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Tải trình tăng tốc GPU tạo sẵn xuống

Nếu cần tăng tốc GPU, bạn cần có trình tăng tốc GPU. Vì trình tăng tốc này chưa được cung cấp dưới dạng mã nguồn mở, nên bạn cần tải các bản dựng sẵn xuống.

Dưới đây là các trình tăng tốc GPU hiện có.

Nền tảng Phiên bản Trình tăng tốc GPU Phụ trợ
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Metal
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Chuẩn bị thư viện C++ LiteRT tạo sẵn

Chọn một thư mục để lưu trữ SDK C++ LiteRT. Chúng ta sẽ gọi thư mục này là <litert_cc_sdk_location>.

  1. Tải SDK C++ xuống

    Bạn cần chuẩn bị các tệp cần thiết (CMakeLists.txt, tệp nguồn và tệp tiêu đề tệp) từ tệp zip SDK C++ LiteRT trong <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Đặt đã tải xuống libLiteRt.so trong <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Tạo thư viện và công cụ run_model_simple.

    LiteRT cần clang để tạo. Định cấu hình SDK C++ và các công cụ tạo như sau:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Tích hợp thư viện C++ LiteRT tạo sẵn

  1. Cập nhật CMakeLists.txt để sử dụng API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)