GenerationConfig

خيارات الإعداد لإنشاء النماذج والمخرجات قد لا تكون جميع المعلمات قابلة للتهيئة لكل نموذج.

تمثيل JSON
{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}
الحقول
stopSequences[]

string

اختياريّ. مجموعة تسلسلات الأحرف (ما يصل إلى 5) التي ستتوقف عن إنشاء النتائج وفي حال تحديد ذلك، ستتوقف واجهة برمجة التطبيقات عند أول ظهور لتسلسل محطات التوقف. ولن يتم تضمين تسلسل التوقف كجزء من الاستجابة.

candidateCount

integer

اختياريّ. عدد الردود التي تم إنشاؤها للعرض.

في الوقت الحالي، لا يمكن ضبط هذه القيمة إلا على 1. وفي حال ترك هذه السياسة بدون ضبط، سيتم ضبط القيمة تلقائيًا على 1.

maxOutputTokens

integer

اختياريّ. الحد الأقصى لعدد الرموز المميّزة المطلوب تضمينها في حقل مرشح.

ملاحظة: تختلف القيمة التلقائية حسب الطراز، ويمكنك الاطّلاع على سمة Model.output_token_limit للسمة Model التي يتم عرضها من الدالة getModel.

temperature

number

اختياريّ. تتحكّم هذه السياسة في التوزيع العشوائي للمخرجات.

ملاحظة: تختلف القيمة التلقائية حسب الطراز، ويمكنك الاطّلاع على سمة Model.temperature للسمة Model التي يتم عرضها من الدالة getModel.

يمكن أن تتراوح القيم من [0.0، 2.0].

topP

number

اختياريّ. الحد الأقصى للاحتمال التراكمي للرموز المميزة التي يجب مراعاتها عند أخذ العينات.

يستخدم النموذج العيّنة المجمّعة من أعلى درجة إلى أعلى والنواة.

يتم فرز الرموز المميزة حسب الاحتمالات المعيَّنة لها، بحيث لا يؤخذ في الاعتبار سوى الرموز المميزة الأكثر احتمالاً. يؤدي أخذ العينات من المستوى الأعلى بشكل مباشر إلى تقييد الحد الأقصى لعدد الرموز المميزة التي يجب أخذها في الاعتبار، بينما تحدد طريقة أخذ العينات Nucleus عدد الرموز المميزة بناءً على الاحتمالية التراكمية.

ملاحظة: تختلف القيمة التلقائية حسب الطراز، ويمكنك الاطّلاع على سمة Model.top_p للسمة Model التي يتم عرضها من الدالة getModel.

topK

integer

اختياريّ. الحدّ الأقصى لعدد الرموز المميّزة التي يجب أخذها في الاعتبار عند أخذ العيّنات

تستخدم النماذج العينات النواة أو العينات المجمَّعة من عينة الذرة والعينة النووية. يضع أخذ العينات من المستوى الأعلى في الاعتبار مجموعة الرموز المميزة التي يُرجّح استخدامها أكثر من topK. لا تسمح النماذج التي يتم تشغيلها باستخدام عيّنات نواة بإعداد TopK.

ملاحظة: تختلف القيمة التلقائية حسب الطراز، ويمكنك الاطّلاع على سمة Model.top_k للسمة Model التي يتم عرضها من الدالة getModel. يشير الحقل topK الفارغ في Model إلى أنّ النموذج لا يطبّق عينات القيم الأعلى ولا يسمح بضبط topK على الطلبات.