AI Edge Function Calling SDK (FC SDK) هي مكتبة تتيح للمطوّرين استخدام ميزة "استدعاء الدوال" مع النماذج اللغوية الكبيرة (LLM) على الأجهزة. تتيح لك ميزة "استدعاء الدوال" ربط النماذج بأدوات وواجهات برمجة تطبيقات خارجية، ما يمكّن النماذج من استدعاء دوال معيّنة مع المَعلمات اللازمة لتنفيذ إجراءات في العالم الحقيقي.
بدلاً من مجرد إنشاء نص، يمكن لنموذج لغوي كبير يستخدم حزمة تطوير البرامج (SDK) الخاصة بأداة "استدعاء الوظائف" إنشاء استدعاء منظَّم لوظيفة تنفّذ إجراءً، مثل البحث عن معلومات حديثة أو ضبط المنبّهات أو إجراء حجوزات.
تتوفّر حزمة تطوير البرامج (SDK) الخاصة بـ AI Edge FC لنظام التشغيل Android ويمكن تشغيلها بالكامل على الجهاز باستخدام LLM Inference API. ابدأ باستخدام حزمة تطوير البرامج (SDK) باتّباع دليل Android الذي يقدّم لك خطوات التنفيذ الأساسية لتطبيق نموذجي باستخدام ميزة "استدعاء الدوال".
مسار معالجة استدعاء الدالة
يتطلّب إعداد نموذج لغوي كبير على الجهاز مع إمكانات استدعاء الدوال اتّباع الخطوات الرئيسية التالية:
- تحديد تعريفات الدوال: يجب تحديد بنية ومعلمات الدوال التي يمكن للنموذج اللغوي الكبير استدعاءها في رمز تطبيقك. ويشمل ذلك تحديد أسماء الدوال والمَعلمات والأنواع.
- تنسيق الطلبات والمخرجات: يمكن أن يحتوي النص المدخل والمخرج على لغة طبيعية واستدعاءات الدوال. يتحكّم المنسّق في كيفية تحويل هياكل البيانات إلى سلاسل والعكس، ما يتيح للنموذج اللغوي الكبير تنسيق المعلومات بشكل مناسب.
- تحليل النتائج: يكتشف المحلّل ما إذا كانت الاستجابة التي تم إنشاؤها تتضمّن استدعاء دالة، ويحلّلها إلى نوع بيانات منظَّمة لكي يتمكّن التطبيق من تنفيذ استدعاء الدالة.
- فحص الردود: إذا رصد المحلّل استدعاء دالة، يستدعي التطبيق الدالة مع المَعلمات المناسبة ونوع البيانات المنظَّمة. بخلاف ذلك، تعرض نصًا باللغة الطبيعية.
المكوّنات الرئيسية
تحتوي حزمة تطوير البرامج (SDK) الخاصة بـ "الموافقة الكاملة" على المكوّنات الرئيسية التالية:
- الخادم الخلفي للاستدلال: واجهة لتشغيل الاستدلال على نموذج ذكاء اصطناعي توليدي تستخدم حزمة تطوير البرامج (SDK) الخاصة بـ FC واجهة LLM Inference API لتنفيذ الاستدلال على نماذج LiteRT (TFLite). تستخدم واجهة برمجة التطبيقات واجهة InferenceBackend.
- أداة تنسيق الطلبات: واجهة لتنسيق الطلبات والردود من نموذج الذكاء الاصطناعي التوليدي وإليه. توفّر حزمة تطوير البرامج (SDK) الخاصة بأداة FC أداة تنسيق تحوّل تعريفات الدوال إلى التنسيق الخاص بالنموذج الذي يتطلّبه النموذج اللغوي الكبير (LLM)، وتدرجها في طلب النظام. يتعامل المنسّق أيضًا مع الرموز المميزة الخاصة بالنموذج للإشارة إلى أدوار المستخدم والنموذج. تستخدم واجهة برمجة التطبيقات واجهة ModelFormatter.
- محلّل النتائج: توفّر حزمة تطوير البرامج (SDK) الخاصة بـ FC محلّلاً يرصد ما إذا كانت نتيجة النموذج تمثّل استدعاء دالة ويحلّلها إلى بنية بيانات لاستخدامها في التطبيق. تستخدم واجهة برمجة التطبيقات واجهة ModelFormatter.
- فك التشفير المقيد: واجهة لإنشاء القيود وإدارتها لضمان التزام الناتج الذي تم إنشاؤه بقواعد أو شروط معيّنة. بالنسبة إلى النماذج المتوافقة، ستضبط حزمة تطوير البرامج (SDK) الخاصة بـ FC الخلفية الخاصة بالاستنتاج لاستخدام فك الترميز المقيّد، ما يضمن أن يعرض النموذج أسماء وظائف ومعلمات صالحة فقط. تستخدم واجهة برمجة التطبيقات واجهة ConstraintProvider.