האצה של NPU באמצעות LiteRT Next

‫LiteRT Next מספק ממשק מאוחד לשימוש ביחידות עיבוד עצביות (NPU), בלי שתצטרכו לנווט בנפרד בקומפיילרים, בסביבות זמן ריצה או בתלות בספריות ספציפיות לספקים. השימוש ב-LiteRT Next להאצת NPU מאפשר להימנע מסיבוכים רבים שספציפיים לספקים או למכשירים, משפר את הביצועים להסקת מסקנות בזמן אמת ולמודלים גדולים, ומצמצם את העתקות הזיכרון באמצעות שימוש במאגר חומרה ללא העתקה.

אם כבר נרשמתם לתוכנית הגישה המוקדמת ל-NPU של LiteRT, אתם יכולים להיכנס לחשבון המורשה כדי לראות את התיעוד של ה-NPU. אם עדיין לא נרשמתם, אתם יכולים להירשם לתוכנית הגישה המוקדמת:

להרשמה

שנתחיל?

כדי להתחיל, אפשר לעיין במדריך הבא בנושא NPU:

לדוגמאות להטמעה של LiteRT Next עם תמיכה ב-NPU, אפשר לעיין באפליקציות ההדגמה הבאות:

ספקים של NPU

‫LiteRT Next תומך בהאצת NPU עם הספקים הבאים: