AI Edge Function Calling SDK (حزمة تطوير البرامج (SDK) لاستدعاء الدوالّ على الأجهزة الطرفية) هي مكتبة تتيح للمطوّرين استخدام استدعاء الدوالّ مع النماذج اللغوية الكبيرة (LLM) على الجهاز فقط. يتيح لك طلب البيانات من الدوالّ ربط نماذج بالأدوات وواجهات برمجة التطبيقات الخارجية، ما يتيح للنماذج طلب بيانات من دوالّ محدّدة باستخدام المَعلمات اللازمة لتنفيذ إجراءات في العالم الواقعي.
بدلاً من إنشاء نص فقط، يمكن لنموذج اللغة الضخمة الذي يستخدم حزمة تطوير البرامج (SDK) لـ FC إنشاء دعوة منظَّمة لدالة تنفِّذ إجراءً، مثل البحث عن معلومات محدّثة أو ضبط المنبّهات أو إجراء حجوزات.
تتوفّر حزمة تطوير البرامج (SDK) لميزة "الاستنتاج الذكي على الأجهزة الطرفية" من الذكاء الاصطناعي لنظام التشغيل Android، ويمكن تشغيلها بالكامل على الجهاز باستخدام واجهة برمجة التطبيقات LLM Inference API. ابدأ استخدام حزمة SDK باتّباع دليل Android الذي يرشدك خلال عملية تنفيذ أساسية لتطبيق نموذجي باستخدام طلب الدالة.
مسار استدعاء الدالة
يتطلّب إعداد نموذج تعلم متقدّم على الجهاز مع إمكانات استدعاء الدوالّ تنفيذ الخطوات الرئيسية التالية:
- تحديد تعريفات الدوالّ: يجب تحديد بنية الدوالّ ومقاييسها التي يمكن أن تستدعيها ميزة "المعالجة المحدودة للغة" في رمز تطبيقك. ويشمل ذلك تحديد أسماء الدوال والمَعلمات وأنواعها.
- تنسيق الطلبات والنواتج: يمكن أن يحتوي نص الإدخال والإخراج على لغة طبيعية وطلبات استدعاء الدوال. يتحكّم أداة التنسيق في كيفية تحويل هياكل البيانات إلى سلاسل ومنها، ما يتيح لنموذج المعالجة المحدودة للغة تنسيق المعلومات بشكل مناسب.
- تحليل النتائج: يرصد المُحلِّل ما إذا كان الردّ الذي تم إنشاؤه يحتوي على طلب استدعاء دالة ويحلّله إلى نوع بيانات منظَّمة لكي تتمكّن التطبيق من تنفيذ طلب استدعاء الدالة.
- فحص الردود: إذا رصد المُحلِّل طلب استدعاء دالة، يُطلِب التطبيق الدالة بالمَعلمات المناسبة و نوع البيانات منظَّمة. بخلاف ذلك، يعرض النص باللغة الطبيعية.
المكونات الرئيسية
تحتوي حزمة تطوير البرامج (SDK) لـ FC على المكوّنات الرئيسية التالية:
- الخلفية لميزة الاستنتاج: واجهة لتنفيذ الاستنتاج في نموذج الذكاء الاصطناعي التوليدي تستخدِم حزمة FC SDK واجهة برمجة التطبيقات LLM Inference API لتنفيذ الاستنتاج في نماذج LiteRT (TFLite). تستخدِم واجهة برمجة التطبيقات واجهة InferenceBackend.
- مُعدِّل الطلبات: واجهة لتنسيق الطلبات والردود المرسَلة إلى نموذج الذكاء الاصطناعي التوليدي والمرسَلة منه توفّر حزمة تطوير البرامج (SDK) لنظام "البحث الوصفي" أداة تنسيق تحول تعريفات الدوال إلى التنسيق الخاص بالنموذج الذي يتطلّبه النموذج اللغوي الكبير (LLM) وتُدرجها في طلب النظام. يعالج المنسِّق أيضًا الرموز الخاصة بالنموذج للإشارة إلى أدوار المستخدم والنموذج. تستخدم واجهة برمجة التطبيقات واجهة ModelFormatter.
- أداة تحليل النتائج: توفّر حزمة تطوير البرامج (SDK) لإطار عمل Firebase أداة تحليل ترصد ما إذا كان نتيجة النموذج represent a function call (يمثّل طلب دالة) وتحليلها إلى بنية بيانات لاستخدامها في التطبيق. تستخدم واجهة برمجة التطبيقات واجهة ModelFormatter.
- فك التشفير المقيّد: واجهة لإنشاء القيود وإدارتها لضمان التزام الإخراج الذي تم إنشاؤه بقواعد أو شروط معيّنة. بالنسبة إلى النماذج المتوافقة، ستضبط حزمة تطوير البرامج (SDK) لإطار عمل Inference (الاستنتاج) الخلفية لميزة الاستنتاج لاستخدام ميزة فك الترميز المقيّد، ما يضمن أن يعرض النموذج فقط أسماء الدوال ومَعلماتها الصالحة. تستخدم واجهة برمجة التطبيقات واجهة ConstraintProvider.