Mendownload dan Mengintegrasikan Biner C++ LiteRT yang Sudah Dibuat

Anda dapat menggunakan library C++ prebuilt di aplikasi Anda tanpa membangun seluruh hierarki sumber LiteRT. Integrasi dapat dilakukan dengan CMake.

Berikut adalah langkah-langkah dasar untuk menggunakan LiteRT CompiledModel API dalam kode C++ Anda.

Mendownload library bersama runtime LiteRT bawaan

Download library bersama runtime LiteRT dengan mengikuti link berikut:

Platform Versi Library runtime LiteRT
android_arm64 2.1.4 libLiteRt.so
android_x86_64 2.1.4 libLiteRt.so
linux_x86_64 2.1.4 libLiteRt.so
linux_arm64 2.1.4 libLiteRt.so
macos_arm64 2.1.4 libLiteRt.dylib
windows_x86_64 2.1.4 libLiteRt.dll

Mendownload Akselerator GPU yang telah dibuat sebelumnya

Jika Anda memerlukan Akselerasi GPU, Anda memerlukan Akselerator GPU. Karena belum bersifat open source, Anda perlu mendownload prebuilt.

Berikut adalah Akselerator GPU yang tersedia.

Platform Versi Akselerator GPU Backend
android_arm64 2.1.4 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.4 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.4 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.4 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.4 libLiteRtMetalAccelerator.dylib Logam
windows_x86_64 2.1.4 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Menyiapkan library C++ LiteRT bawaan

Pilih folder untuk menghosting LiteRT C++ SDK. Kita akan menyebutnya sebagai <litert_cc_sdk_location>.

  1. Download C++ SDK

    Anda perlu menyiapkan file yang diperlukan (CMakeLists.txt, file sumber dan header) dari file zip LiteRT C++ SDK di <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. Tempatkan libLiteRt.so yang didownload di bagian <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. Bangun library dan alat run_model_simple.

    LiteRT perlu clang untuk dibangun. Konfigurasi C++ SDK dan alat build sebagai berikut:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

Mengintegrasikan library C++ LiteRT bawaan

  1. Perbarui CMakeLists.txt Anda untuk menggunakan LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)