Tải xuống và tích hợp tệp nhị phân C++ LiteRT được tạo sẵn

Bạn có thể sử dụng các thư viện C++ được tạo sẵn trong các ứng dụng mà không cần tạo toàn bộ cây nguồn LiteRT. Bạn có thể tích hợp bằng CMake.

Sau đây là các bước cơ bản để sử dụng API LiteRT CompiledModel trong mã C++ của bạn.

Tải thư viện chia sẻ thời gian chạy LiteRT tạo sẵn xuống

Tải thư viện dùng chung thời gian chạy LiteRT xuống bằng cách làm theo các đường liên kết:

Nền tảng Phiên bản Thư viện thời gian chạy LiteRT
android_arm64 mới nhất libLiteRt.so
linux_x86_64 mới nhất libLiteRt.so
linux_arm64 mới nhất libLiteRt.so
macos_arm64 mới nhất libLiteRt.dylib
windows_x86_64 mới nhất libLiteRt.dll

Tải Trình tăng tốc GPU được tạo sẵn xuống

Nếu cần có tính năng Tăng tốc GPU, bạn cần có Trình tăng tốc GPU. Vì chưa phải là mã nguồn mở, nên bạn cần tải các bản dựng sẵn xuống.

Dưới đây là các Trình tăng tốc GPU hiện có.

Nền tảng Phiên bản Trình tăng tốc GPU Phụ trợ
android_arm64 mới nhất libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 mới nhất libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 mới nhất libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 mới nhất libLiteRtMetalAccelerator.dylib Kim loại
windows_x86_64 mới nhất libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Chuẩn bị thư viện C++ LiteRT tạo sẵn

Chọn một thư mục để lưu trữ LiteRT C++ SDK. Chúng tôi sẽ gọi đó là <litert_cc_sdk_location>.

  1. Tải SDK C++ xuống

    Bạn cần chuẩn bị các tệp cần thiết (CMakeLists.txt, tệp nguồn và tệp tiêu đề) từ tệp zip LiteRT C++ SDK trong <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. Đặt libLiteRt.so đã tải xuống trong <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. Công cụ tạo thư viện và run_model_simple.

    LiteRT cần clang để tạo. Định cấu hình SDK C++ và công cụ xây dựng như sau:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

Tích hợp thư viện C++ LiteRT tạo sẵn

  1. Hãy cập nhật CMakeLists.txt để sử dụng LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)