ขอแนะนํา Google AI Edge Portal: เปรียบเทียบประสิทธิภาพ AI บนอุปกรณ์ขอบในวงกว้าง ลงชื่อสมัครใช้เพื่อขอสิทธิ์เข้าถึงในช่วงเวอร์ชันตัวอย่างก่อนเปิดตัว

ดาวน์โหลดและผสานรวมไบนารี C++ ของ LiteRT ที่สร้างไว้ล่วงหน้า

คุณสามารถใช้ไลบรารี C++ ที่สร้างไว้ล่วงหน้าในแอปพลิเคชันได้โดยไม่ต้องสร้างทั้งซอร์สทรีของ LiteRT การผสานรวมทำได้ด้วย CMake

ต่อไปนี้เป็นขั้นตอนพื้นฐานในการใช้ LiteRT CompiledModel API ในโค้ด C++

ดาวน์โหลดไลบรารีที่ใช้ร่วมกันของรันไทม์ LiteRT ที่สร้างไว้ล่วงหน้า

ดาวน์โหลดไลบรารีที่ใช้ร่วมกันของรันไทม์ LiteRT โดยทำตาม ลิงก์ต่อไปนี้

แพลตฟอร์ม	เวอร์ชัน	ไลบรารีรันไทม์ LiteRT
android_arm64	ล่าสุด	libLiteRt.so
linux_x86_64	ล่าสุด	libLiteRt.so
linux_arm64	ล่าสุด	libLiteRt.so
macos_arm64	ล่าสุด	libLiteRt.dylib
windows_x86_64	ล่าสุด	libLiteRt.dll

ดาวน์โหลดตัวเร่ง GPU ที่สร้างไว้ล่วงหน้า

หากต้องการการเร่งด้วย GPU คุณต้องใช้ตัวเร่ง GPU เนื่องจากยังไม่ได้เปิด ซอร์ส คุณจึงต้องดาวน์โหลดไฟล์ที่สร้างไว้ล่วงหน้า

ตัวเร่ง GPU ที่พร้อมใช้งานมีดังนี้

แพลตฟอร์ม	เวอร์ชัน	ตัวเร่ง GPU	แบ็กเอนด์
android_arm64	ล่าสุด	libLiteRtGpuAccelerator.so	OpenCL + OpenGL
linux_x86_64	ล่าสุด	libLiteRtWebGpuAccelerator.so	WebGPU (Vulkan)
linux_arm64	ล่าสุด	libLiteRtWebGpuAccelerator.so	WebGPU (Vulkan)
macos_arm64	ล่าสุด	libLiteRtMetalAccelerator.dylib	เมทัล
windows_x86_64	ล่าสุด	libLiteRtWebGpuAccelerator.dll	WebGPU (Direct3D)

เตรียมไลบรารี C++ ของ LiteRT ที่สร้างไว้ล่วงหน้า

เลือกโฟลเดอร์เพื่อโฮสต์ LiteRT C++ SDK เราจะเรียกฟีเจอร์นี้ว่า <litert_cc_sdk_location>

ดาวน์โหลด C++ SDK

คุณต้องเตรียมไฟล์ที่จำเป็น (CMakeLists.txt, ไฟล์ต้นฉบับและไฟล์ส่วนหัว) จากไฟล์ zip ของ LiteRT C++ SDK ใน<litert_cc_sdk_location>
```
wget https://github.com/google-ai-edge/LiteRT/releases/download/<litert_version>/litert_cc_sdk.zip
unzip litert_cc_sdk.zip -d <litert_cc_sdk_location>
```
วาง libLiteRt.so ที่ดาวน์โหลดไว้ใต้ <litert_cc_sdk_location>
```
cp <path_to_prebuilt_lib>/libLiteRt.so <litert_cc_sdk_location>/litert_cc_sdk/
```
สร้างคลังและเครื่องมือ run_model_simple

LiteRT ต้องใช้ clang ในการสร้าง กำหนดค่า C++ SDK และเครื่องมือบิลด์ดังนี้
```
cd <litert_cc_sdk_location>
cmake -S litert_cc_sdk -B litert_cc_sdk_build -DCMAKE_C_COMPILER=clang -DCMAKE_CXX_COMPILER=clang++
cmake --build litert_cc_sdk_build -j
```

ผสานรวมไลบรารี C++ ของ LiteRT ที่สร้างไว้ล่วงหน้า

อัปเดต CMakeLists.txt เพื่อใช้ LiteRT API

add_subdirectory("<litert_cc_sdk_location>" "<litert_cc_sdk_location>/build")
include_directories("<litert_cc_sdk_location>")

target_link_libraries(${CMAKE_PROJECT_NAME}
        # Use `litert_cc_api` for LiteRT C++ SDK
        litert_cc_api
        android
        log)