মডেল জেনারেশন এবং আউটপুটগুলির জন্য কনফিগারেশন বিকল্প। সমস্ত প্যারামিটার প্রতিটি মডেলের জন্য কনফিগারযোগ্য হতে পারে না।
JSON প্রতিনিধিত্ব |
---|
{ "stopSequences": [ string ], "responseMimeType": string, "candidateCount": integer, "maxOutputTokens": integer, "temperature": number, "topP": number, "topK": integer } |
ক্ষেত্র | |
---|---|
stopSequences[] | ঐচ্ছিক। ক্যারেক্টার সিকোয়েন্সের সেট (5 পর্যন্ত) যা আউটপুট জেনারেশন বন্ধ করবে। নির্দিষ্ট করা হলে, API একটি স্টপ সিকোয়েন্সের প্রথম উপস্থিতিতে থামবে। স্টপ ক্রম প্রতিক্রিয়া অংশ হিসাবে অন্তর্ভুক্ত করা হবে না. |
responseMimeType | ঐচ্ছিক। উত্পন্ন প্রার্থী পাঠ্যের আউটপুট প্রতিক্রিয়া মাইমেটাইপ। সমর্থিত মাইমেটাইপ: |
candidateCount | ঐচ্ছিক। ফিরে আসার জন্য উত্পন্ন প্রতিক্রিয়ার সংখ্যা। বর্তমানে, এই মানটি শুধুমাত্র 1 তে সেট করা যেতে পারে৷ যদি সেট না করা হয় তবে এটি 1 এ ডিফল্ট হবে৷ |
maxOutputTokens | ঐচ্ছিক। একজন প্রার্থীকে অন্তর্ভুক্ত করার জন্য সর্বাধিক সংখ্যক টোকেন। দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, |
temperature | ঐচ্ছিক। আউটপুটের এলোমেলোতা নিয়ন্ত্রণ করে। দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, মান [0.0, 2.0] থেকে পরিসীমা হতে পারে। |
topP | ঐচ্ছিক। নমুনা নেওয়ার সময় বিবেচনা করতে টোকেনগুলির সর্বাধিক ক্রমবর্ধমান সম্ভাবনা৷ মডেলটি সম্মিলিত টপ-কে এবং নিউক্লিয়াস স্যাম্পলিং ব্যবহার করে। টোকেনগুলি তাদের নির্ধারিত সম্ভাব্যতার উপর ভিত্তি করে সাজানো হয় যাতে শুধুমাত্র সবচেয়ে সম্ভাব্য টোকেনগুলিকে বিবেচনা করা হয়। টপ-কে নমুনা সরাসরি বিবেচনা করার জন্য সর্বাধিক সংখ্যক টোকেনকে সীমাবদ্ধ করে, যখন নিউক্লিয়াস স্যাম্পলিং ক্রমবর্ধমান সম্ভাব্যতার উপর ভিত্তি করে টোকেনের সংখ্যা সীমাবদ্ধ করে। দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, |
topK | ঐচ্ছিক। নমুনা নেওয়ার সময় সর্বাধিক সংখ্যক টোকেন বিবেচনা করতে হবে। মডেলগুলি নিউক্লিয়াস স্যাম্পলিং বা সম্মিলিত টপ-কে এবং নিউক্লিয়াস স্যাম্পলিং ব্যবহার করে। Top-k স্যাম্পলিং দ্রষ্টব্য: মডেল অনুসারে ডিফল্ট মান পরিবর্তিত হয়, |