وحدة المعالجة العصبية (NPU) من MediaTek ‏(NeuroPilot) مع LiteRT

تتوافق LiteRT مع MediaTek NeuroPilot من خلال واجهة برمجة التطبيقات "النموذج المجمَّع" لكل من الترجمة المسبقة (AOT) والترجمة على الجهاز.

إعداد بيئة التطوير

  • نظام التشغيل: Ubuntu 22.04 LTS
  • نظام التصميم: Bazel 7.4.1
  • حزمة تطوير البرامج (SDK) لنظام التشغيل Android: المستوى 34 لواجهة برمجة التطبيقات (الإصدار 14 من نظام التشغيل Android)
  • حزمة تطوير البرامج الأصلية (NDK) لنظام التشغيل Android: إتاحة المستوى 28 من واجهة برمجة التطبيقات (الإصدار 9 من نظام التشغيل Android)

المنظومات على الرقاقة المتوافقة

  • Dimensity 7300 (MT6878)
  • Dimensity 8300 (MT6897)
  • Dimensity 9000 (MT6983)
  • Dimensity 9200 (MT6985)
  • Dimensity 9300 (MT6989)
  • Dimensity 9400 (MT6991)

الخطوات التالية

  1. ابدأ بدليل وحدة المعالجة العصبية الموحّدة: تسريع وحدة المعالجة العصبية باستخدام LiteRT
  2. اتّبِع خطوات الإحالة الناجحة والنشر، واختَر MediaTek عند الاقتضاء.
  3. بالنسبة إلى النماذج اللغوية الكبيرة، يُرجى الاطّلاع على تنفيذ النماذج اللغوية الكبيرة على وحدة المعالجة العصبية باستخدام LiteRT-LM.