Mendownload dan Mengintegrasikan Biner C++ LiteRT yang Sudah Dibuat

Anda dapat menggunakan library C++ bawaan di aplikasi Anda tanpa membuat seluruh hierarki sumber LiteRT. Integrasi dapat dilakukan dengan CMake.

Berikut adalah langkah-langkah dasar untuk menggunakan LiteRT CompiledModel API dalam kode C++ Anda.

Download library bersama runtime LiteRT bawaan

Download library bersama runtime LiteRT dengan mengikuti link berikut:

Platform Versi Library runtime LiteRT
android_arm64 latest libLiteRt.so
linux_x86_64 latest libLiteRt.so
linux_arm64 latest libLiteRt.so
macos_arm64 latest libLiteRt.dylib
windows_x86_64 latest libLiteRt.dll

Mendownload Akselerator GPU yang telah dibuat sebelumnya

Jika Anda memerlukan Akselerasi GPU, Anda memerlukan Akselerator GPU. Karena belum bersifat open source, Anda perlu mendownload prebuilt.

Berikut adalah Akselerator GPU yang tersedia.

Platform Versi Akselerator GPU Backend
android_arm64 latest libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 latest libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 latest libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 latest libLiteRtMetalAccelerator.dylib Logam
windows_x86_64 latest libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Menyiapkan library C++ LiteRT bawaan

Pilih folder untuk menghosting LiteRT C++ SDK. Kita akan menyebutnya sebagai <litert_cc_sdk_location>.

  1. Download C++ SDK

    Anda perlu menyiapkan file yang diperlukan (CMakeLists.txt, file sumber dan header) dari file zip LiteRT C++ SDK di <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. Tempatkan libLiteRt.so yang didownload di bagian <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. Bangun library dan alat run_model_simple.

    LiteRT memerlukan clang untuk membangun. Konfigurasi C++ SDK dan alat build sebagai berikut:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

Mengintegrasikan library C++ LiteRT bawaan

  1. Perbarui CMakeLists.txt Anda untuk menggunakan LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)