LiteRT Next ile NPU hızlandırma

LiteRT Next, tedarikçiye özel derleyiciler, çalışma zamanları veya kitaplık bağımlılıkları arasında tek tek gezinmenizi gerektirmeden sinirsel işlem birimlerini (NPU'lar) kullanmak için birleşik bir arayüz sağlar. NPU hızlandırması için LiteRT Next'i kullanmak, birçok tedarikçiye veya cihaza özgü karmaşıklığı önler, gerçek zamanlı ve büyük model çıkarımı için performansı artırır ve sıfır kopyalı donanım arabellek kullanımı sayesinde bellek kopyalarını en aza indirir.

LiteRT NPU erken erişim programına zaten kayıtlıysanız NPU belgelerini görüntülemek için yetkili hesapta oturum açın. Kaydolmadıysanız erken erişim programına kaydolun:

Kaydolun!

Başlayın

Başlamak için NPU'ya genel bakış kılavuzuna göz atın:

NPU desteğiyle LiteRT Next'in örnek uygulamaları için aşağıdaki demo uygulamalarına bakın:

NPU Tedarikçileri

LiteRT Next, aşağıdaki tedarikçilerle NPU hızlandırmayı destekler: