‫Google Tensor (EdgeTPU) مع LiteRT

‫Google Tensor هي شريحة نظام (SoC) مصمَّمة خصيصًا لتشغيل نماذج الذكاء الاصطناعي على هواتف Google Pixel. تم تحسين Tensor لتحقيق كفاءة حسابية عالية واستهلاك الطاقة. وتستخدِم مسرّعًا مخصّصًا للاستدلال في تعلُّم الآلة يُسمّى وحدة معالجة الموتّرات (TPU)، ويمكن الوصول إليه من خلال حزمة تطوير البرامج (SDK) الخاصة بمعالج Google Tensor.

الاشتراك للوصول إلى الإصدار التجريبي من Google Tensor SDK

‫Google Tensor SDK هي حزمة تطوير برامج تم إنشاؤها لتحسين تعلُّم الآلة على الجهاز فقط في هواتف Google Pixel من خلال الاستفادة من نظام Tensor المخصّص على الشريحة (SoC) ومسرّع الاستدلال المخصّص لوحدة معالجة الموتّرات (TPU). توفّر حزمة تطوير البرامج هذه مجموعة شاملة من الأدوات التي تساعد المطوّرين في الوصول إلى نماذج مفتوحة المصدر منتقاة في Model Garden. تتيح هذه الحزمة أيضًا تجميع النماذج في تنسيقات متوافقة مع وحدة معالجة الموتّرات (TPU).

الاشتراك

الميزات الرئيسية

• الوصول المباشر إلى أجهزة TPU المخصّصة لإجراء استنتاجات فعّالة في تعلُّم الآلة على أجهزة Pixel
• نماذج مفتوحة المصدر منتقاة ومحسّنة لحزمة تطوير البرامج (SDK) في Model Garden

إعداد بيئة التطوير

في ما يلي مواصفات الأجهزة والبرامج المطلوبة والشروط الأساسية لاستخدام حزمة تطوير البرامج (SDK) الخاصة بمعالج Google Tensor:

المنظومات على الرقاقة المتوافقة

تتوافق حزمة تطوير البرامج (SDK) من Google Tensor مع أنظمة SoC التالية:

• Google Tensor G5 (Tensor_G5)

الخطوات التالية

1. اتّبِع خطوات الإحالة الناجحة والنشر في تسريع وحدة المعالجة العصبية باستخدام LiteRT، واختَر Google Tensor حسب الاقتضاء.

2. بالنسبة إلى النماذج اللغوية، اطّلِع على تنفيذ النماذج اللغوية الكبيرة على وحدة المعالجة العصبية باستخدام LiteRT-LM.