पहले से तैयार किए गए LiteRT C++ बाइनरी को डाउनलोड और इंटिग्रेट करना

पूरी LiteRT सोर्स ट्री बनाए बिना, अपने ऐप्लिकेशन में पहले से बनी हुई C++ लाइब्रेरी का इस्तेमाल किया जा सकता है. CMake की मदद से इंटिग्रेशन किया जा सकता है.

यहां C++ कोड में LiteRT CompiledModel API इस्तेमाल करने का तरीका बताया गया है.

पहले से बनी हुई LiteRT रनटाइम शेयर की गई लाइब्रेरी डाउनलोड करें

इन लिंक पर जाकर, LiteRT रनटाइम शेयर की गई लाइब्रेरी डाउनलोड करें:

प्लैटफ़ॉर्म वर्शन LiteRT रनटाइम लाइब्रेरी
android_arm64 आखिरी libLiteRt.so
linux_x86_64 आखिरी libLiteRt.so
linux_arm64 आखिरी libLiteRt.so
macos_arm64 आखिरी libLiteRt.dylib
windows_x86_64 आखिरी libLiteRt.dll

पहले से बनाए गए जीपीयू ऐक्सेलरेटर डाउनलोड करना

अगर आपको जीपीयू ऐक्सेलरेटेड रेंडरिंग की सुविधा चाहिए, तो आपको जीपीयू ऐक्सेलरेटर की ज़रूरत होगी. यह अब तक ओपन सोर्स नहीं है. इसलिए, आपको पहले से बनाए गए वर्शन डाउनलोड करने होंगे.

यहां उपलब्ध जीपीयू ऐक्सेलरेटर दिए गए हैं.

प्लैटफ़ॉर्म वर्शन GPU ऐक्सेलरेटर बैकएंड
android_arm64 आखिरी libLiteRtGpuAccelerator.so OpenCL + OpenGL
linux_x86_64 आखिरी libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
linux_arm64 आखिरी libLiteRtWebGpuAccelerator.so WebGPU (Vulkan)
macos_arm64 आखिरी libLiteRtMetalAccelerator.dylib मेटल
windows_x86_64 आखिरी libLiteRtWebGpuAccelerator.dll WebGPU (Direct3D)

पहले से बनी हुई LiteRT C++ लाइब्रेरी तैयार करना

LiteRT C++ SDK को होस्ट करने के लिए कोई फ़ोल्डर चुनें. हम इसे <litert_cc_sdk_location> के तौर पर दिखाएंगे.

  1. C++ SDK टूल डाउनलोड करें

    आपको <litert_cc_sdk_location> में मौजूद LiteRT C++ SDK की ZIP फ़ाइल से, ज़रूरी फ़ाइलें (CMakeLists.txt, सोर्स और हेडर फ़ाइलें) तैयार करनी होंगी.

    wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>

  2. डाउनलोड किए गए libLiteRt.so को <litert_cc_sdk_location> में रखें.

    cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/

  3. लाइब्रेरी और run_model_simple टूल बनाना.

    LiteRT को बनाने के लिए clang की ज़रूरत होती है. C++ SDK और बिल्ड टूल को इस तरह कॉन्फ़िगर करें:

    cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j

पहले से बनी LiteRT C++ लाइब्रेरी को इंटिग्रेट करना

  1. LiteRT API का इस्तेमाल करने के लिए, CMakeLists.txt को अपडेट करें.

    add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)