LlmInference

الفئة العامة LlmInference

واجهة برمجة تطبيقات JavaScript لمهمة LlmInference

الصفوف المتداخلة

صنف LlmInference.LlmInferenceOptions خيارات إعداد "LlmInference" 

الطرق العامة

void
Close()
يُستخدم لإغلاق LlmInference وتنظيفه.
ثابت LlmInference
createFromOptions(سياق السياق، خيارات LlmInference.LlmInferenceOptions)
تنشئ مهمة LlmInference.
String
generateResponse(نص إدخال سلسلة)
لإنشاء ردّ استنادًا إلى النص الذي تم إدخاله
void
generateResponseAsync(نص الإدخال سلسلة)
لإنشاء ردّ استنادًا إلى النص الذي تم إدخاله
int
sizeInTokens(نص سلسلة)
استدعاء إنشاء رموز مميّزة فقط للنموذج اللغوي الكبير، وعرض حجم النتيجة (بالرموز المميّزة)

الطرق المكتسَبة

الطرق العامة

عامة باطل إغلاق ()

يُستخدم لإغلاق LlmInference وتنظيفه.

public static LlmInference createFromOptions (سياق السياق، LlmInference.LlmInferenceOptions)

تنشئ مهمة LlmInference.

المَعلمات
سياق
الخيارات

public سلسلة generateResponse (سلسلة إدخال نص)

لإنشاء ردّ استنادًا إلى النص الذي تم إدخاله

المَعلمات
inputText String للمعالجة.
الرميات
إذا فشل الاستنتاج.

public إبطال generateResponseAsync (سلسلة إدخال نص)

لإنشاء ردّ استنادًا إلى النص الذي تم إدخاله

المَعلمات
inputText String للمعالجة.
الرميات
إذا فشل الاستنتاج.

public int sizeInTokens (نص سلسلة)

استدعاء إنشاء رموز مميّزة فقط للنموذج اللغوي الكبير، وعرض حجم النتيجة (بالرموز المميّزة) لا يمكن طلب البيانات عندما يكون طلب بحث generateResponse(String) نشطًا. generateResponse

المَعلمات
text النص المطلوب إنشاء رمز مميّز.
المرتجعات
  • عدد الرموز المميّزة في عملية إنشاء الرموز المميّزة للنص
الرميات
إذا تعذّر إنشاء رمز مميّز.