Akselerasi NPU dengan LiteRT Next

LiteRT Next menyediakan antarmuka terpadu untuk menggunakan Unit Pemrosesan Neural (NPU) tanpa mengharuskan Anda menavigasi secara terpisah kompiler, runtime, atau dependensi library khusus vendor. Penggunaan LiteRT Next untuk akselerasi NPU menghindari banyak komplikasi khusus vendor atau khusus perangkat, meningkatkan performa untuk inferensi real-time dan model besar, serta meminimalkan salinan memori melalui penggunaan buffer hardware tanpa salinan.

Jika Anda sudah terdaftar dalam Program Akses Awal NPU LiteRT, login ke akun yang diberi otorisasi untuk melihat dokumentasi NPU. Jika Anda belum mendaftar, daftar ke Program Akses Awal:

Daftar sekarang!

Mulai

Untuk memulai, lihat panduan ringkasan NPU:

Untuk contoh implementasi LiteRT Next dengan dukungan NPU, lihat aplikasi demo berikut:

Vendor NPU

LiteRT Next mendukung akselerasi NPU dengan vendor berikut: