Загрузите и интегрируйте предварительно собранный бинарный файл LiteRT C++.

Вы можете использовать предварительно собранные библиотеки C++ в своих приложениях, не пересобирая весь исходный код LiteRT. Интеграция может быть выполнена с помощью CMake .

Ниже показаны основные шаги по использованию API LiteRT CompiledModel в вашем коде на C++.

Загрузите предварительно собранную общую библиотеку среды выполнения LiteRT.

Загрузите общую библиотеку среды выполнения LiteRT, перейдя по ссылкам:

Платформа Версия Библиотека времени выполнения LiteRT
android_arm64 последний libLiteRt.so
linux_x86_64 последний libLiteRt.so
linux_arm64 последний libLiteRt.so
macos_arm64 последний libLiteRt.dylib
windows_x86_64 последний libLiteRt.dll

Скачать готовые GPU-ускорители

Если вам требуется ускорение на графическом процессоре, вам нужен GPU Accelerator. Поскольку он ещё не является открытым исходным кодом, вам нужно скачать готовые сборки.

Здесь представлены доступные графические ускорители.

Платформа Версия Ускоритель графического процессора Бэкенд
android_arm64 последний libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 последний libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 последний libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 последний libLiteRtMetalAccelerator.dylib Металл
windows_x86_64 последний libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

Подготовьте предварительно собранную библиотеку LiteRT C++.

Выберите папку для размещения LiteRT C++ SDK. Мы будем использовать её в качестве папки <litert_cc_sdk_location> .

  1. Скачать C++ SDK

    Вам необходимо подготовить необходимые файлы (CMakeLists.txt, исходный и заголовочные файлы) из zip-архива LiteRT C++ SDK, расположенного в папке <litert_cc_sdk_location> .

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
    unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
    
  2. Поместите загруженный libLiteRt.so в папку <litert_cc_sdk_location> .

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
    
  3. Соберите библиотеку и запустите инструмент run_model_simple .

    Для сборки LiteRT требуется clang . Настройте C++ SDK и инструменты сборки следующим образом:

    cd <litert_cc_sdk_location>
    cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
    cmake --build litert_cc_sdk_build -j
    

Интеграция предварительно собранной библиотеки LiteRT C++

  1. Обновите файл CMakeLists.txt , чтобы использовать API LiteRT.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
    include_directories("<litert_cc_sdk_location>")
    
    target_link_libraries(${CMAKE_PROJECT_NAME}
            # Use `litert_cc_api` for LiteRT C++ SDK
            litert_cc_api
            android
            log)