הורדה ושילוב של קובץ בינארי מוכן מראש של LiteRT C++

אתם יכולים להשתמש בספריות C++‎ שנוצרו מראש באפליקציות שלכם בלי ליצור את עץ המקור המלא של LiteRT. אפשר לבצע את השילוב באמצעות CMake.

בהמשך מפורטים השלבים הבסיסיים לשימוש ב-LiteRT CompiledModel API בקוד C++.

הורדה של ספרייה משותפת מוכנה מראש של זמן הריצה של LiteRT

כדי להוריד את הספרייה המשותפת של זמן הריצה של LiteRT, לוחצים על הקישורים הבאים:

פלטפורמה גרסה ספריית זמן הריצה של LiteRT
android_arm64 2.1.3 libLiteRt.so
android_x86_64 2.1.3 libLiteRt.so
linux_x86_64 2.1.3 libLiteRt.so
linux_arm64 2.1.3 libLiteRt.so
macos_arm64 2.1.3 libLiteRt.dylib
windows_x86_64 2.1.3 libLiteRt.dll

הורדה של מאיצי GPU מוכנים מראש

אם אתם צריכים האצת GPU, אתם צריכים GPU Accelerator. מכיוון שהיא עדיין לא קוד פתוח, צריך להוריד קבצים מוכנים מראש.

אלה מאיצי ה-GPU הזמינים.

פלטפורמה גרסה GPU Accelerator בק-אנד
android_arm64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
android_x86_64 2.1.3 libLiteRtClGlAccelerator.so OpenCL + OpenGL
linux_x86_64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU‏ (Vulkan)
linux_arm64 2.1.3 libLiteRtWebGpuAccelerator.so WebGPU‏ (Vulkan)
macos_arm64 2.1.3 libLiteRtMetalAccelerator.dylib מטאל
windows_x86_64 2.1.3 libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

הכנת ספריית C++‎ של LiteRT שנבנתה מראש

בוחרים תיקייה לאירוח LiteRT C++ SDK. נקרא לו <litert_cc_sdk_location>.

  1. הורדת C++ SDK

    צריך להכין את הקבצים הנדרשים (CMakeLists.txt, קובצי מקור וכותרות) מקובץ ה-ZIP של LiteRT C++ SDK בגודל של <litert_cc_sdk_location> לכל היותר.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. ממקמים את הקובץ libLiteRt.so שהורד מתחת ל-<litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. יצירת ספרייה וכלי run_model_simple.

    נדרש clang כדי לבצע build של LiteRT. מגדירים את C++ SDK ואת כלי הבנייה באופן הבא:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

שילוב של ספריית LiteRT C++‎ מוכנה מראש

  1. צריך לעדכן את CMakeLists.txt כדי להשתמש ב-LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)