הורדה ושילוב של קובץ בינארי מוכן מראש של LiteRT C++

אתם יכולים להשתמש בספריות C++‎ שנוצרו מראש באפליקציות שלכם בלי ליצור את עץ המקור המלא של LiteRT. אפשר לבצע את השילוב באמצעות CMake.

בהמשך מפורטים השלבים הבסיסיים לשימוש ב-LiteRT CompiledModel API בקוד C++.

הורדה של ספרייה משותפת של זמן ריצה LiteRT שנבנתה מראש

מורידים את הספרייה המשותפת של זמן הריצה של LiteRT באמצעות הקישורים הבאים:

פלטפורמה גרסה ספריית זמן הריצה של LiteRT
android_arm64 התוצאות האחרונות libLiteRt.so
linux_x86_64 התוצאות האחרונות libLiteRt.so
linux_arm64 התוצאות האחרונות libLiteRt.so
macos_arm64 התוצאות האחרונות libLiteRt.dylib
windows_x86_64 התוצאות האחרונות libLiteRt.dll

הורדה של מאיצי GPU מוכנים מראש

אם אתם צריכים האצת GPU, אתם צריכים GPU Accelerator. מכיוון שהיא עדיין לא בקוד פתוח, צריך להוריד גרסאות מוכנות מראש.

אלה מאיצי ה-GPU הזמינים.

פלטפורמה גרסה GPU Accelerator קצה עורפי
android_arm64 התוצאות האחרונות libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 התוצאות האחרונות libLiteRtWebGpuAccelerator.so WebGPU ‏ (Vulkan)
linux_arm64 התוצאות האחרונות libLiteRtWebGpuAccelerator.so WebGPU ‏ (Vulkan)
macos_arm64 התוצאות האחרונות libLiteRtMetalAccelerator.dylib מטאל
windows_x86_64 התוצאות האחרונות libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

הכנת ספריית C++‎ של LiteRT שנבנתה מראש

בוחרים תיקייה לאירוח LiteRT C++ SDK. במאמר הזה נתייחס אליו בתור <litert_cc_sdk_location>.

  1. הורדת C++ SDK

    צריך להכין את הקבצים הנדרשים (CMakeLists.txt, קובצי מקור וכותרות) מקובץ ה-zip של LiteRT C++ SDK בתיקייה <litert_cc_sdk_location>.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. ממקמים את הקובץ libLiteRt.so שהורד מתחת ל-<litert_cc_sdk_location>.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. יצירת ספרייה וכלי run_model_simple.

    נדרש clang כדי לבנות את LiteRT. מגדירים את C++ SDK ואת כלי הבנייה באופן הבא:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

שילוב ספריית LiteRT C++‎ מוכנה מראש

  1. צריך לעדכן את CMakeLists.txt כדי להשתמש ב-LiteRT API.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)