إطار عمل استنتاج مفتوح المصدر وجاهز للاستخدام في مرحلة الإنتاج ومصمَّم لتقديم عمليات نشر نماذج لغوية كبيرة (LLM) عالية الأداء ومتوافقة مع عدّة منصات على الأجهزة الطرفية
نظرة عامة البدء
الذكاء الاصطناعي التوليدي على الجهاز فقط في Chrome وChromebook Plus وPixel Watch باستخدام LiteRT-LM
قراءة المزيد

لماذا LiteRT-LM؟

نشر نماذج اللغات الكبيرة على أجهزة Android وiOS والويب وأجهزة الكمبيوتر
تحسين الأداء إلى أقصى حدّ باستخدام تسريع وحدة معالجة الرسومات (GPU) ووحدة المعالجة العصبية (NPU)
إتاحة استخدام النماذج اللغوية الكبيرة الشائعة بالإضافة إلى إمكانية استخدام وسائط متعددة (الصور والفيديوهات والصوت) والأدوات

بدء التطوير

واجهات برمجة تطبيقات Python مع ميزة "تسريع الأجهزة" على أنظمة التشغيل Linux وMacOS وWindows وRaspberry Pi
دليل Python
تطبيقات Android الأصلية وأدوات الكمبيوتر المكتبي المستندة إلى JVM
دليل Android
تكامل أصلي مع نظامَي التشغيل iOS وmacOS مع توفير دعم متخصص لواجهة برمجة التطبيقات Metal (ستتوفّر واجهات برمجة تطبيقات Swift قريبًا)
دليل C++‎
x-platform C++ APIs .
دليل C++‎

المدوّنات والإشعارات

يمكنك نشر النماذج اللغوية على الأجهزة القابلة للارتداء والمنصات المستندة إلى المتصفّح باستخدام LiteRT-LM على نطاق واسع.
تعرَّف على كيفية ضبط نموذج FunctionGemma بدقة وتفعيل إمكانات استدعاء الدوال المستندة إلى واجهات برمجة التطبيقات الخاصة بأداة LiteRT-LM.
أحدث الإحصاءات حول التوليد المعزّز بالاسترجاع (RAG) والوسائط المتعددة واستدعاء الدوال في النماذج اللغوية التي تعمل على الأجهزة الطرفية

الانضمام إلى المنتدى

يمكنك المساهمة في المشروع المفتوح المصدر والإبلاغ عن المشاكل والاطّلاع على الأمثلة.
عرض على GitHub
نزِّل النماذج المحوَّلة مسبقًا وانضم إلى المناقشة.
عرض على Hugging Face