ঐচ্ছিক। ক্যারেক্টার সিকোয়েন্সের সেট (5 পর্যন্ত) যা আউটপুট জেনারেশন বন্ধ করবে। নির্দিষ্ট করা হলে, API একটি স্টপ সিকোয়েন্সের প্রথম উপস্থিতিতে থামবে। স্টপ ক্রম প্রতিক্রিয়া অংশ হিসাবে অন্তর্ভুক্ত করা হবে না.
candidateCount
integer
ঐচ্ছিক। ফিরে আসার জন্য উত্পন্ন প্রতিক্রিয়ার সংখ্যা।
বর্তমানে, এই মানটি শুধুমাত্র 1 তে সেট করা যেতে পারে৷ যদি সেট না করা হয় তবে এটি 1 এ ডিফল্ট হবে৷
maxOutputTokens
integer
ঐচ্ছিক। একজন প্রার্থীকে অন্তর্ভুক্ত করার জন্য সর্বাধিক সংখ্যক টোকেন।
দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা ModelModel.output_token_limit বৈশিষ্ট্য দেখুন।
temperature
number
ঐচ্ছিক। আউটপুটের এলোমেলোতা নিয়ন্ত্রণ করে।
দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা ModelModel.temperature বৈশিষ্ট্য দেখুন।
মান [0.0, 2.0] থেকে পরিসীমা হতে পারে।
topP
number
ঐচ্ছিক। নমুনা নেওয়ার সময় বিবেচনা করতে টোকেনগুলির সর্বাধিক ক্রমবর্ধমান সম্ভাবনা৷
মডেলটি সম্মিলিত টপ-কে এবং নিউক্লিয়াস স্যাম্পলিং ব্যবহার করে।
টোকেনগুলি তাদের নির্ধারিত সম্ভাব্যতার উপর ভিত্তি করে সাজানো হয় যাতে শুধুমাত্র সবচেয়ে সম্ভাব্য টোকেনগুলিকে বিবেচনা করা হয়। টপ-কে নমুনা সরাসরি বিবেচনা করার জন্য সর্বাধিক সংখ্যক টোকেনকে সীমাবদ্ধ করে, যখন নিউক্লিয়াস স্যাম্পলিং ক্রমবর্ধমান সম্ভাব্যতার উপর ভিত্তি করে টোকেনের সংখ্যা সীমাবদ্ধ করে।
দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা ModelModel.top_p বৈশিষ্ট্য দেখুন।
topK
integer
ঐচ্ছিক। নমুনা নেওয়ার সময় সর্বাধিক সংখ্যক টোকেন বিবেচনা করতে হবে।
মডেলগুলি নিউক্লিয়াস স্যাম্পলিং বা সম্মিলিত টপ-কে এবং নিউক্লিয়াস স্যাম্পলিং ব্যবহার করে। Top-k স্যাম্পলিং topK সবচেয়ে সম্ভাব্য টোকেনের সেট বিবেচনা করে। নিউক্লিয়াস স্যাম্পলিং সহ চলমান মডেলগুলি topK সেটিং অনুমোদন করে না।
দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, getModel ফাংশন থেকে ফিরে আসা ModelModel.top_k বৈশিষ্ট্য দেখুন। Model খালি topK ক্ষেত্র নির্দেশ করে যে মডেলটি টপ-কে স্যাম্পলিং প্রয়োগ করে না এবং অনুরোধে topK সেট করার অনুমতি দেয় না।