Вы можете использовать предварительно собранные библиотеки C++ в своих приложениях, не пересобирая весь исходный код LiteRT. Интеграция может быть выполнена с помощью CMake .
Ниже показаны основные шаги по использованию API LiteRT CompiledModel в вашем коде на C++.
Загрузите предварительно собранную общую библиотеку среды выполнения LiteRT.
Загрузите общую библиотеку среды выполнения LiteRT, перейдя по ссылкам:
| Платформа | Версия | Библиотека времени выполнения LiteRT |
|---|---|---|
| android_arm64 | последний | libLiteRt.so |
| linux_x86_64 | последний | libLiteRt.so |
| linux_arm64 | последний | libLiteRt.so |
| macos_arm64 | последний | libLiteRt.dylib |
| windows_x86_64 | последний | libLiteRt.dll |
Скачать готовые GPU-ускорители
Если вам требуется ускорение на графическом процессоре, вам нужен GPU Accelerator. Поскольку он ещё не является открытым исходным кодом, вам нужно скачать готовые сборки.
Здесь представлены доступные графические ускорители.
| Платформа | Версия | Ускоритель графического процессора | Бэкенд |
|---|---|---|---|
| android_arm64 | последний | libLiteRtGpuAccelerator.so | OpenCL + OpenGL |
| linux_x86_64 | последний | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| linux_arm64 | последний | libLiteRtWebGpuAccelerator.so | WebGPU (Vulkan) |
| macos_arm64 | последний | libLiteRtMetalAccelerator.dylib | Металл |
| windows_x86_64 | последний | libLiteRtWebGpuAccelerator.dll | WebGPU (Direct3D) |
Подготовьте предварительно собранную библиотеку LiteRT C++.
Выберите папку для размещения LiteRT C++ SDK. Мы будем использовать её в качестве папки <litert_cc_sdk_location> .
Скачать C++ SDK
Вам необходимо подготовить необходимые файлы (CMakeLists.txt, исходный и заголовочные файлы) из zip-архива LiteRT C++ SDK, расположенного в папке
<litert_cc_sdk_location>.wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>Поместите загруженный
libLiteRt.soв папку<litert_cc_sdk_location>.cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/Соберите библиотеку и запустите инструмент
run_model_simple.Для сборки LiteRT требуется
clang. Настройте C++ SDK и инструменты сборки следующим образом:cd <litert_cc_sdk_location> cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++ cmake --build litert_cc_sdk_build -j
Интеграция предварительно собранной библиотеки LiteRT C++
Обновите файл
CMakeLists.txt, чтобы использовать API LiteRT.add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build") include_directories("<litert_cc_sdk_location>") target_link_libraries(${CMAKE_PROJECT_NAME} # Use `litert_cc_api` for LiteRT C++ SDK litert_cc_api android log)