GenerationConfig

মডেল জেনারেশন এবং আউটপুটগুলির জন্য কনফিগারেশন বিকল্প। সমস্ত প্যারামিটার প্রতিটি মডেলের জন্য কনফিগারযোগ্য হতে পারে না।

JSON প্রতিনিধিত্ব
{
  "stopSequences": [
    string
  ],
  "candidateCount": integer,
  "maxOutputTokens": integer,
  "temperature": number,
  "topP": number,
  "topK": integer
}
ক্ষেত্র
stopSequences[]

string

ঐচ্ছিক। ক্যারেক্টার সিকোয়েন্সের সেট (5 পর্যন্ত) যা আউটপুট জেনারেশন বন্ধ করবে। নির্দিষ্ট করা হলে, API একটি স্টপ সিকোয়েন্সের প্রথম উপস্থিতিতে থামবে। স্টপ ক্রম প্রতিক্রিয়া অংশ হিসাবে অন্তর্ভুক্ত করা হবে না.

candidateCount

integer

ঐচ্ছিক। ফিরে আসার জন্য উত্পন্ন প্রতিক্রিয়ার সংখ্যা।

বর্তমানে, এই মানটি শুধুমাত্র 1 তে সেট করা যেতে পারে৷ যদি সেট না করা হয় তবে এটি 1 এ ডিফল্ট হবে৷

maxOutputTokens

integer

ঐচ্ছিক। একজন প্রার্থীকে অন্তর্ভুক্ত করার জন্য সর্বাধিক সংখ্যক টোকেন।

দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা Model Model.output_token_limit বৈশিষ্ট্য দেখুন।

temperature

number

ঐচ্ছিক। আউটপুটের এলোমেলোতা নিয়ন্ত্রণ করে।

দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা Model Model.temperature বৈশিষ্ট্য দেখুন।

মান [0.0, 2.0] থেকে পরিসীমা হতে পারে।

topP

number

ঐচ্ছিক। নমুনা নেওয়ার সময় বিবেচনা করতে টোকেনগুলির সর্বাধিক ক্রমবর্ধমান সম্ভাবনা৷

মডেলটি সম্মিলিত টপ-কে এবং নিউক্লিয়াস স্যাম্পলিং ব্যবহার করে।

টোকেনগুলি তাদের নির্ধারিত সম্ভাব্যতার উপর ভিত্তি করে সাজানো হয় যাতে শুধুমাত্র সবচেয়ে সম্ভাব্য টোকেনগুলিকে বিবেচনা করা হয়। টপ-কে নমুনা সরাসরি বিবেচনা করার জন্য সর্বাধিক সংখ্যক টোকেনকে সীমাবদ্ধ করে, যখন নিউক্লিয়াস স্যাম্পলিং ক্রমবর্ধমান সম্ভাব্যতার উপর ভিত্তি করে টোকেনের সংখ্যা সীমাবদ্ধ করে।

দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা Model Model.top_p বৈশিষ্ট্য দেখুন।

topK

integer

ঐচ্ছিক। নমুনা নেওয়ার সময় সর্বাধিক সংখ্যক টোকেন বিবেচনা করতে হবে।

মডেলগুলি নিউক্লিয়াস স্যাম্পলিং বা সম্মিলিত টপ-কে এবং নিউক্লিয়াস স্যাম্পলিং ব্যবহার করে। Top-k স্যাম্পলিং topK সবচেয়ে সম্ভাব্য টোকেনের সেট বিবেচনা করে। নিউক্লিয়াস স্যাম্পলিং সহ চলমান মডেলগুলি topK সেটিং অনুমোদন করে না।

দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা Model Model.top_k বৈশিষ্ট্য দেখুন। Model খালি topK ক্ষেত্র নির্দেশ করে যে মডেলটি টপ-কে স্যাম্পলিং প্রয়োগ করে না এবং অনুরোধে topK সেট করার অনুমতি দেয় না।