MediaTek NPU (NeuroPilot) با LiteRT

LiteRT از طریق رابط برنامه‌نویسی کاربردی مدل کامپایل‌شده (Compiled Model API) از MediaTek NeuroPilot برای هر دو کامپایل AOT و On-Device پشتیبانی می‌کند.

محیط توسعه را تنظیم کنید

  • سیستم عامل: اوبونتو ۲۲.۰۴ LTS
  • سیستم ساخت: Bazel 7.4.1
  • کیت توسعه نرم‌افزار اندروید: API سطح ۳۴ (اندروید ۱۴)
  • اندروید NDK: پشتیبانی از API سطح ۲۸ (اندروید ۹ پای)

SoC های پشتیبانی شده

  • دایمنسیتی ۷۳۰۰ (MT6878)
  • دایمنسیتی ۸۳۰۰ (MT6897)
  • دیمنسیتی ۹۰۰۰ (MT6983)
  • دایمنسیتی ۹۲۰۰ (MT6985)
  • دایمنسیتی ۹۳۰۰ (MT6989)
  • دیمنسیتی ۹۴۰۰ (MT6991)

مراحل بعدی

  1. با راهنمای واحد پردازش عصبی یکپارچه شروع کنید: شتاب‌دهی NPU با LiteRT
  2. مراحل تبدیل و استقرار را در آنجا دنبال کنید و در صورت لزوم MediaTek را انتخاب کنید.
  3. برای LLMها، به اجرای LLMها روی NPU با استفاده از LiteRT-LM مراجعه کنید.