Mendownload dan Mengintegrasikan Biner C++ LiteRT yang Sudah Dibuat

Anda dapat menggunakan library C++ prebuilt di aplikasi Anda tanpa membangun seluruh hierarki sumber LiteRT. Integrasi dapat dilakukan dengan CMake.

Berikut adalah langkah-langkah dasar untuk menggunakan LiteRT CompiledModel API dalam kode C++ Anda.

Mendownload library bersama runtime LiteRT bawaan

Download library bersama runtime LiteRT dengan mengikuti link berikut:

Platform Versi Library runtime LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

Mendownload Akselerator GPU yang telah dibuat sebelumnya

Jika Anda memerlukan Akselerasi GPU, Anda memerlukan Akselerator GPU. Karena belum bersifat open source, Anda perlu mendownload build pra-buat.

Berikut adalah Akselerator GPU yang tersedia.

Platform Versi Akselerator GPU Backend
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib Logam
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Menyiapkan library C++ LiteRT bawaan

Pilih folder untuk menghosting LiteRT C++ SDK. Kita akan menyebutnya sebagai <litert_cc_sdk_location>.

  1. Download C++ SDK

    Anda perlu menyiapkan file yang diperlukan (CMakeLists.txt, file sumber dan header) dari file zip LiteRT C++ SDK di <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. Tempatkan libLiteRt.so yang didownload di bagian <litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. Bangun library dan alat run_model_simple.

    LiteRT perlu clang untuk dibangun. Konfigurasi C++ SDK dan alat build sebagai berikut:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

Mengintegrasikan library C++ LiteRT bawaan

  1. Perbarui CMakeLists.txt Anda untuk menggunakan LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)