प्रॉम्प्ट डिज़ाइन से जुड़ी रणनीतियां

प्रॉम्प्ट डिज़ाइन, प्रॉम्प्ट या सामान्य भाषा में किए गए अनुरोध बनाने की प्रोसेस है. इससे लैंग्वेज मॉडल से सटीक और अच्छी क्वालिटी के जवाब मिलते हैं.

इस पेज पर, बुनियादी कॉन्सेप्ट, रणनीतियां, और सबसे सही तरीके बताए गए हैं. इनकी मदद से, Gemini के एआई मॉडल का ज़्यादा से ज़्यादा फ़ायदा पाने के लिए प्रॉम्प्ट डिज़ाइन किए जा सकते हैं.

विषय के हिसाब से प्रॉम्प्ट के लिए गाइड

क्या आपको प्रॉम्प्ट के लिए ज़्यादा सटीक रणनीतियां चाहिए? प्रॉम्प्ट से जुड़ी हमारी अन्य गाइड देखें:

Google AI Studio में एक प्रॉम्प्ट गैलरी भी है. इसका मकसद, इस गाइड में शेयर किए गए कई कॉन्सेप्ट को इंटरैक्टिव तरीके से दिखाना है.

साफ़ और सटीक निर्देश

मॉडल के व्यवहार को अपनी पसंद के मुताबिक बनाने का सबसे असरदार और बेहतर तरीका है, उसे साफ़ और सटीक निर्देश देना. निर्देश, सवाल के तौर पर हो सकते हैं. इसके अलावा, ये सिलसिलेवार टास्क के तौर पर भी हो सकते हैं. इसके अलावा, ये उपयोगकर्ता के अनुभव और मानसिकता को मैप करने के तौर पर भी जटिल हो सकते हैं.

इनपुट

इनपुट, प्रॉम्प्ट में मौजूद वह ज़रूरी टेक्स्ट होता है जिसका जवाब मॉडल से पाना है. इनपुट, कोई ऐसा सवाल हो सकता है जिसका जवाब मॉडल देता है (सवाल का इनपुट), कोई ऐसा टास्क जिसे मॉडल पूरा करता है (टास्क का इनपुट), कोई ऐसी इकाई जिस पर मॉडल काम करता है (इकाई का इनपुट) या कोई ऐसा इनपुट जिसे मॉडल पूरा करता है या जारी रखता है (पूरा करने का इनपुट).

इनपुट का टाइप प्रॉम्प्ट जनरेट किया गया आउटपुट
सवाल 

    What's a good name for a flower shop that specializes in selling bouquets of
    dried flowers? Create a list of 5 options with just the names.
 

    Here are 10 names for a flower shop specializing in dried flowers:

    1. Everlasting Blooms
    2. Dried & Delightful
    3. The Petal Preserve
    4. Whispers of Wildflowers
    5. Forever Blooms
टास्क 
    Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
 
    1. **Tent:** Your shelter from the elements.
    2. **Sleeping Bag:** Stay warm and comfortable.
    3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.
    4. **Headlamp or Flashlight:** Light for nighttime activities.
    5. **First Aid Kit:** Be prepared for minor injuries.
इकाई 

    Classify the following items as [large, small]:
Elephant
Mouse
Snail
 

Here's the classification:

* **Elephant:** Large
* **Mouse:** Small
* **Snail:** Small

कुछ हद तक इनपुट पूरा होना

जनरेटिव भाषा मॉडल, अपने-आप पूरा होने वाले वाक्य के बेहतर टूल की तरह काम करते हैं. जब आपके सवाल का कुछ हिस्सा ही दिया जाता है, तो मॉडल उस सवाल का बाकी हिस्सा या जवाब के तौर पर उस कॉन्टेंट का वह हिस्सा दे सकता है जो उसके हिसाब से उस कॉन्टेंट का अगला हिस्सा है. ऐसा करते समय, अगर आपने कोई उदाहरण या कॉन्टेक्स्ट शामिल किया है, तो मॉडल उन उदाहरणों या कॉन्टेक्स्ट को ध्यान में रख सकता है.

इस उदाहरण में, निर्देश और इकाई के इनपुट के साथ प्रॉम्प्ट दिया गया है:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
{
  "cheeseburger": 0,
  "hamburger": 1,
  "fries": 0,
  "drink": 1
}

मॉडल ने प्रॉम्प्ट के मुताबिक काम किया, लेकिन निर्देशों को सामान्य भाषा में लिखना कभी-कभी मुश्किल हो सकता है. साथ ही, मॉडल के लिए निर्देशों को समझना भी मुश्किल हो सकता है. उदाहरण के लिए, किसी रेस्टोरेंट के मेन्यू में कई आइटम हो सकते हैं. JSON रिस्पॉन्स का साइज़ कम करने के लिए, हो सकता है कि आप उन आइटम को हटाना चाहें जिन्हें ऑर्डर नहीं किया गया था. इस मामले में, उदाहरण और जवाब का प्रीफ़िक्स दिया जा सकता है. इसके बाद, मॉडल को जवाब पूरा करने दें:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```

ध्यान दें कि "चीज़बर्गर" को आउटपुट से बाहर क्यों रखा गया, क्योंकि यह ऑर्डर का हिस्सा नहीं था.

कंस्ट्रेंट

प्रॉम्प्ट को पढ़ने या जवाब जनरेट करने से जुड़ी किसी भी पाबंदी के बारे में बताएं. मॉडल को यह बताया जा सकता है कि उसे क्या करना है और क्या नहीं. उदाहरण के लिए, प्रॉम्प्ट में यह शर्त तय की जा सकती है कि आपको खास जानकारी कितनी लंबी चाहिए:

Summarize this text in one sentence:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.

रिस्पॉन्स का फ़ॉर्मैट

जवाब के फ़ॉर्मैट के बारे में बताने वाले निर्देश दिए जा सकते हैं. उदाहरण के लिए, आपके पास जवाब को टेबल, बुलेट वाली सूची, लिफ़्ट पिच, कीवर्ड, वाक्य या पैराग्राफ़ के तौर पर फ़ॉर्मैट करने का विकल्प होता है. सिस्टम के इस निर्देश से, मॉडल को जवाब में बातचीत के लहज़े का इस्तेमाल करने के लिए कहा जाता है:

    All questions should be answered comprehensively with details, unless the user requests a concise response specifically.
  
    What is a smart way to make a business that sells DVD's in 2025?
  
Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.

Here's a breakdown of what a smart DVD business in 2025 would likely entail:

1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:

    * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.
    ....

फ़ॉर्म भरने की रणनीति के हिसाब से जवाबों को फ़ॉर्मैट करना

पूरा होने की रणनीति से भी जवाब को फ़ॉर्मैट करने में मदद मिल सकती है. इस उदाहरण में, मॉडल को निबंध का आउटलाइन बनाने के लिए कहा गया है:

Create an outline for an essay about hummingbirds.
  
Here is a possible outline for an essay about hummingbirds:

I. Introduction
A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds.
C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.

II. Appearance and Identification
.....

प्रॉम्प्ट में आउटलाइन के फ़ॉर्मैट के बारे में नहीं बताया गया था और मॉडल ने आपके लिए एक फ़ॉर्मैट चुना है. मॉडल को किसी खास फ़ॉर्मैट में आउटलाइन दिखाने के लिए, आउटलाइन की शुरुआत दिखाने वाला टेक्स्ट जोड़ा जा सकता है. साथ ही, मॉडल को आपके शुरू किए गए पैटर्न के आधार पर उसे पूरा करने दिया जा सकता है.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:

I. Introduction
* Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
* Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics.
* Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary.
.....

बिना उदाहरण वाले प्रॉम्प्ट बनाम उदाहरण के साथ डाले गए प्रॉम्प्ट

प्रॉम्प्ट में ऐसे उदाहरण शामिल किए जा सकते हैं जिनसे मॉडल को यह पता चल सके कि सही जवाब कैसा दिखता है. यह मॉडल, उदाहरणों से पैटर्न और संबंधों की पहचान करने की कोशिश करता है. साथ ही, जवाब जनरेट करते समय उन्हें लागू करता है. जिन प्रॉम्प्ट में कुछ उदाहरण होते हैं उन्हें फ़्यू-शॉट प्रॉम्प्ट कहा जाता है. वहीं, जिन प्रॉम्प्ट में कोई उदाहरण नहीं होता उन्हें ज़ीरो-शॉट प्रॉम्प्ट कहा जाता है. फ़्यू-शॉट प्रॉम्प्ट का इस्तेमाल, मॉडल के जवाबों के फ़ॉर्मैट, फ़्रेज़िंग, स्कोप या सामान्य पैटर्न को कंट्रोल करने के लिए अक्सर किया जाता है. मॉडल को फ़ोकस करने और ज़्यादा सटीक नतीजे जनरेट करने में मदद करने के लिए, अलग-अलग और खास उदाहरणों का इस्तेमाल करें.

हमारा सुझाव है कि आप अपने प्रॉम्प्ट में हमेशा फ़्यू-शॉट के उदाहरण शामिल करें. कम शॉट वाले उदाहरणों के बिना प्रॉम्प्ट कम असरदार हो सकते हैं. अगर आपके उदाहरणों से, दिए गए टास्क के बारे में साफ़ तौर पर पता चलता है, तो प्रॉम्प्ट से निर्देश हटाए जा सकते हैं.

यहां दिया गया शून्य शॉट प्रॉम्प्ट, मॉडल से सबसे सही जवाब चुनने के लिए कहता है.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1 is the better explanation because it provides more detail on the
process, including how ice crystals combine and grow into snowflakes as they
fall through the atmosphere.

अगर आपके इस्तेमाल के उदाहरण में मॉडल को कम शब्दों में जवाब देने की ज़रूरत है, तो प्रॉम्प्ट में ऐसे उदाहरण शामिल किए जा सकते हैं जिनमें कम शब्दों में जवाब देने को प्राथमिकता दी गई हो.

यहां दिए गए प्रॉम्प्ट में दो उदाहरण दिए गए हैं. इनमें, कम शब्दों में दी गई जानकारी को प्राथमिकता दी गई है. जवाब में, यह देखा जा सकता है कि उदाहरणों की मदद से मॉडल को, पहले की तरह लंबी जानकारी (Explanation1) के बजाय, छोटी जानकारी (Explanation2) चुनने के लिए कहा गया.

Below are some examples showing a question, explanation, and answer format:

Question: Why is the sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes
shorter blue wavelengths of light to be scattered more easily than longer red
wavelengths, making the sky look blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break
apart, causing a release of energy that creates seismic waves that can shake the
ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2

उदाहरणों की सही संख्या

Gemini जैसे मॉडल, कुछ उदाहरणों का इस्तेमाल करके पैटर्न को अक्सर पहचान सकते हैं. हालांकि, सबसे अच्छे नतीजे पाने के लिए, आपको प्रॉम्प्ट में दिए जाने वाले उदाहरणों की संख्या के साथ प्रयोग करना पड़ सकता है. साथ ही, अगर आपने बहुत ज़्यादा उदाहरण शामिल किए हैं, तो हो सकता है कि मॉडल, उदाहरणों के जवाब को ओवरफ़िट करने लगे.

पैटर्न बनाम एंटी पैटर्न

मॉडल को कोई पैटर्न दिखाने के लिए उदाहरणों का इस्तेमाल करना, उससे बचने के लिए उदाहरणों का इस्तेमाल करने से ज़्यादा असरदार होता है.

⛔ नेगेटिव पैटर्न:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?

✅ पॉज़िटिव पैटर्न:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write

एक ही तरह का फ़ॉर्मैट इस्तेमाल करना

पक्का करें कि फ़्यू-शॉट के उदाहरणों का स्ट्रक्चर और फ़ॉर्मैट एक जैसा हो, ताकि गलत फ़ॉर्मैट वाले जवाबों से बचा जा सके. प्रॉम्प्ट में कुछ शॉट वाले उदाहरण जोड़ने का एक मुख्य मकसद, मॉडल को जवाब का फ़ॉर्मैट दिखाना है. इसलिए, यह ज़रूरी है कि सभी उदाहरणों में एक जैसा फ़ॉर्मैट हो. खास तौर पर, एक्सएमएल टैग, खाली जगह, नई लाइन, और उदाहरण के लिए अलग करने वाले टूल पर ध्यान दें.

कॉन्टेक्स्ट जोड़ना

यह मानने के बजाय कि मॉडल के पास ज़रूरी जानकारी है, प्रॉम्प्ट में निर्देश और जानकारी शामिल की जा सकती है, ताकि मॉडल किसी समस्या को हल कर सके. संदर्भ के हिसाब से दी गई इस जानकारी से, मॉडल को सीमाओं और उस काम की जानकारी समझने में मदद मिलती है जिसे आपको उससे करने के लिए कहा जा रहा है.

इस उदाहरण में, मॉडल से राउटर से जुड़ी समस्या हल करने के लिए दिशा-निर्देश देने के लिए कहा गया है:

What should I do to fix my disconnected wifi? The light on my Google
Wifi router is yellow and blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem
  with the internet connection. Here are some steps to troubleshoot and fix the
  issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....

जवाब में, समस्या हल करने से जुड़ी सामान्य जानकारी दी गई है. यह जानकारी, राउटर या एलईडी इंडिकेटर लाइट की स्थिति के बारे में नहीं है.

किसी खास राउटर के लिए जवाब को पसंद के मुताबिक बनाने के लिए, प्रॉम्प्ट में राउटर की समस्या हल करने से जुड़ी गाइड को संदर्भ के तौर पर जोड़ा जा सकता है. इससे, जवाब देते समय उस गाइड का रेफ़रंस दिया जा सकता है.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

प्रीफ़िक्स जोड़ना

प्रीफ़िक्स, प्रॉम्प्ट कॉन्टेंट में जोड़ा जाने वाला शब्द या वाक्यांश होता है. प्रीफ़िक्स को कहां जोड़ा जाता है, इसके आधार पर यह कई काम कर सकता है:

  • इनपुट प्रीफ़िक्स: मॉडल में इनपुट के ऐसे हिस्सों के लिए प्रीफ़िक्स जोड़ना जो मॉडल के लिए काम के हों. उदाहरण के लिए, "English:" और "French:" प्रीफ़िक्स, दो अलग-अलग भाषाओं को अलग करते हैं.
  • आउटपुट प्रीफ़िक्स: भले ही, आउटपुट मॉडल से जनरेट होता है, लेकिन प्रॉम्प्ट में आउटपुट के लिए प्रीफ़िक्स जोड़ा जा सकता है. आउटपुट प्रीफ़िक्स से मॉडल को यह जानकारी मिलती है कि जवाब के तौर पर क्या उम्मीद की जा सकती है. उदाहरण के लिए, आउटपुट के लिए "JSON:" प्रीफ़िक्स, मॉडल को यह सिग्नल देता है कि आउटपुट JSON फ़ॉर्मैट में होना चाहिए.
  • प्रीफ़िक्स का उदाहरण: फ़्यू-शॉट प्रॉम्प्ट में, उदाहरणों में प्रीफ़िक्स जोड़ने से ऐसे लेबल मिलते हैं जिनका इस्तेमाल मॉडल, आउटपुट जनरेट करते समय कर सकता है. इससे, आउटपुट कॉन्टेंट को पार्स करना आसान हो जाता है.

नीचे दिए गए उदाहरण में, "टेक्स्ट:" इनपुट प्रीफ़िक्स है और "जवाब यह है:" आउटपुट प्रीफ़िक्स है.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large

प्रॉम्प्ट को कॉम्पोनेंट में बांटना

जिन इस्तेमाल के उदाहरणों के लिए मुश्किल प्रॉम्प्ट की ज़रूरत होती है उनके लिए, मॉडल को इस मुश्किल को मैनेज करने में मदद की जा सकती है. इसके लिए, चीज़ों को आसान कॉम्पोनेंट में बांटें.

  1. निर्देशों को अलग-अलग करें: एक प्रॉम्प्ट में कई निर्देश देने के बजाय, हर निर्देश के लिए एक प्रॉम्प्ट बनाएं. उपयोगकर्ता के इनपुट के आधार पर, यह चुना जा सकता है कि किस प्रॉम्प्ट को प्रोसेस करना है.

  2. प्रॉम्प्ट को क्रम से जोड़ना: एक से ज़्यादा चरणों वाले जटिल टास्क के लिए, हर चरण को प्रॉम्प्ट बनाएं और प्रॉम्प्ट को क्रम से जोड़ें. प्रॉम्प्ट की इस क्रम से जुड़ी चेन में, क्रम में एक प्रॉम्प्ट का आउटपुट अगले प्रॉम्प्ट का इनपुट बन जाता है. क्रम में मौजूद आखिरी प्रॉम्प्ट का आउटपुट, आखिरी आउटपुट होता है.

  3. जवाबों को एग्रीगेट करना: एग्रीगेशन तब किया जाता है, जब आपको डेटा के अलग-अलग हिस्सों पर एक साथ अलग-अलग टास्क करने हों और नतीजों को एग्रीगेट करके फ़ाइनल आउटपुट तैयार करना हो. उदाहरण के लिए, मॉडल को डेटा के पहले हिस्से पर एक ऑपरेशन करने के लिए कहा जा सकता है. इसके बाद, बाकी डेटा पर दूसरा ऑपरेशन किया जा सकता है और नतीजों को इकट्ठा किया जा सकता है.

मॉडल पैरामीटर के साथ एक्सपेरिमेंट करना

किसी मॉडल को भेजे गए हर कॉल में पैरामीटर वैल्यू शामिल होती हैं. इनसे यह कंट्रोल होता है कि मॉडल, जवाब कैसे जनरेट करता है. मॉडल, अलग-अलग पैरामीटर वैल्यू के लिए अलग-अलग नतीजे जनरेट कर सकता है. टास्क के लिए सबसे अच्छी वैल्यू पाने के लिए, अलग-अलग पैरामीटर वैल्यू आज़माएं. अलग-अलग मॉडल के लिए उपलब्ध पैरामीटर अलग-अलग हो सकते हैं. सबसे सामान्य पैरामीटर ये हैं:

  1. ज़्यादा से ज़्यादा आउटपुट टोकन: इससे पता चलता है कि जवाब में ज़्यादा से ज़्यादा कितने टोकन जनरेट किए जा सकते हैं. टोकन में करीब चार वर्ण होते हैं. 100 टोक़न, करीब 60 से 80 शब्दों के बराबर होते हैं.

  2. तापमान: तापमान, टोकन चुनने के लिए रैंडम तरीके से तय किए गए आंकड़े को कंट्रोल करता है. जवाब जनरेट करने के दौरान, तापमान का इस्तेमाल सैंपलिंग के लिए किया जाता है. ऐसा तब होता है, जब topP और topK लागू किए जाते हैं. कम तापमान, उन प्रॉम्प्ट के लिए अच्छा होता है जिनके लिए ज़्यादा सटीक या कम खुले जवाब की ज़रूरत होती है. वहीं, ज़्यादा तापमान से अलग-अलग या क्रिएटिव नतीजे मिल सकते हैं. 0 का तापमान, डिटरमिनिस्टिक होता है. इसका मतलब है कि सबसे ज़्यादा संभावना वाला जवाब हमेशा चुना जाता है.

  3. topK: topK पैरामीटर से, मॉडल के आउटपुट के लिए टोकन चुनने के तरीके में बदलाव होता है. topK के 1 होने का मतलब है कि चुना गया टोकन, मॉडल की शब्दावली (जिसे ग्रैडी डीकोडिंग भी कहा जाता है) के सभी टोकन में से सबसे ज़्यादा संभावना वाला है. वहीं, topK के 3 होने का मतलब है कि अगला टोकन, टेम्परेचर का इस्तेमाल करके सबसे ज़्यादा संभावना वाले तीन टोकन में से चुना जाता है. टोकन चुनने के हर चरण के लिए, सबसे ज़्यादा संभावना वाले topK टोकन का सैंपल लिया जाता है. इसके बाद, topP के आधार पर टोकन को और फ़िल्टर किया जाता है. साथ ही, टेंपरेचर सैंपलिंग का इस्तेमाल करके आखिरी टोकन चुना जाता है.

  4. topP: topP पैरामीटर से, मॉडल के आउटपुट के लिए टोकन चुनने के तरीके में बदलाव होता है. टोकन को सबसे ज़्यादा से सबसे कम संभावना के हिसाब से तब तक चुना जाता है, जब तक उनकी संभावनाओं का योग topP वैल्यू के बराबर न हो जाए. उदाहरण के लिए, अगर टोकन A, B, और C की संभावना 0.3, 0.2, और 0.1 है और topP की वैल्यू 0.5 है, तो मॉडल अगले टोकन के तौर पर A या B को चुनेगा. इसके लिए, वह टेम्परेचर का इस्तेमाल करेगा और C को उम्मीदवार के तौर पर बाहर रखेगा. topP की डिफ़ॉल्ट वैल्यू 0.95 है.

  5. stop_sequences: मॉडल को कॉन्टेंट जनरेट करना बंद करने के लिए, स्टॉप सीक्वेंस सेट करें. स्टॉप सीक्वेंस, वर्णों का कोई भी क्रम हो सकता है. जनरेट किए गए कॉन्टेंट में दिखने वाले वर्णों के क्रम का इस्तेमाल करने से बचें.

प्रॉम्प्ट को बेहतर बनाने की रणनीतियां

प्रॉम्प्ट के डिज़ाइन में कभी-कभी कुछ बदलाव करने पड़ सकते हैं, ताकि आपको अपनी ज़रूरत के मुताबिक जवाब मिल सके. इस सेक्शन में, प्रॉम्प्ट को दोहराते समय आज़माए जा सकने वाले कुछ तरीकों के बारे में बताया गया है:

  1. अलग-अलग शब्दों का इस्तेमाल करें: प्रॉम्प्ट में अलग-अलग शब्दों या वाक्यांशों का इस्तेमाल करने पर, मॉडल से अक्सर अलग-अलग जवाब मिलते हैं. भले ही, उन सभी का मतलब एक ही हो. अगर आपको प्रॉम्प्ट से उम्मीद के मुताबिक नतीजे नहीं मिल रहे हैं, तो उसे फिर से लिखकर देखें.

    Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?

  2. मिलते-जुलते टास्क पर स्विच करें: अगर मॉडल किसी टास्क के लिए आपके निर्देशों का पालन नहीं कर पा रहा है, तो उसे मिलते-जुलते ऐसे टास्क के लिए निर्देश दें जिससे वही नतीजा मिले.

    इस प्रॉम्प्ट से मॉडल को, पहले से तय की गई कैटगरी का इस्तेमाल करके किसी किताब को कैटगरी में बांटने के लिए कहा जाता है:

    Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
        The Odyssey belongs to the category of **mythology**. 

    Here's why:

    * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
    journey home after the Trojan War. It features gods, monsters, and supernatural events common to
    Greek mythology.
.....

    जवाब सही है, लेकिन मॉडल ने दिए गए विकल्पों के दायरे में जवाब नहीं दिया. आपको पूरे वाक्य के बजाय, किसी एक विकल्प के साथ जवाब देने का मॉडल भी बनाना है. इस मामले में, निर्देशों को कई विकल्प वाले सवाल के तौर पर फिर से लिखा जा सकता है और मॉडल से कोई विकल्प चुनने के लिए कहा जा सकता है.

    Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
    


      

    • thriller
      • 

    • sci-fi
      • 

    • mythology
      • 

    • biography

    The correct answer is mythology.

  3. प्रॉम्प्ट के कॉन्टेंट का क्रम बदलना: प्रॉम्प्ट में मौजूद कॉन्टेंट के क्रम से, कभी-कभी जवाब पर असर पड़ सकता है. कॉन्टेंट के क्रम में बदलाव करके देखें कि इससे जवाब पर क्या असर पड़ता है.

    Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

फ़ॉलबैक रिस्पॉन्स

फ़ॉलबैक रिस्पॉन्स, मॉडल से मिलने वाला वह जवाब होता है जो प्रॉम्प्ट या जवाब से सुरक्षा फ़िल्टर ट्रिगर होने पर मिलता है. फ़ॉलबैक जवाब का एक उदाहरण यह है कि "मैं इसमें आपकी मदद नहीं कर सकता, क्योंकि मैं सिर्फ़ एक लैंग्वेज मॉडल हूं."

अगर मॉडल, फ़ॉलबैक रिस्पॉन्स के साथ जवाब देता है, तो तापमान बढ़ाकर देखें.

ऐसा करने से बचें

  • तथ्यों के आधार पर जानकारी जनरेट करने के लिए, मॉडल पर भरोसा न करें.
  • गणित और लॉजिक से जुड़ी समस्याओं के लिए, इस सुविधा का इस्तेमाल सावधानी से करें.

जनरेटिव मॉडल के बारे में जानकारी

इस सेक्शन का मकसद इस सवाल का जवाब देना है - क्या जनरेटिव मॉडल के जवाबों में कोई बदलाव होता है या वे तय होते हैं?

इसका जवाब है - दोनों में हां. जनरेटिव मॉडल को प्रॉम्प्ट करने पर, टेक्स्ट जवाब दो चरणों में जनरेट होता है. पहले चरण में, जनरेटिव मॉडल, इनपुट प्रॉम्प्ट को प्रोसेस करता है और अगले चरण में आने वाले संभावित टोकन (शब्दों) के लिए संभावितता का बंटवारा जनरेट करता है. उदाहरण के लिए, अगर आपने इनपुट टेक्स्ट के तौर पर "कुत्ता ... के ऊपर से कूद गया" डाला है, तो जनरेटिव मॉडल अगले शब्दों के संभावित विकल्पों की सूची दिखाएगा:

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

यह प्रोसेस तय होती है. जनरेटिव मॉडल, हर बार एक ही प्रॉम्प्ट टेक्स्ट डालने पर, एक ही डिस्ट्रिब्यूशन देगा.

दूसरे चरण में, जनरेटिव मॉडल कई डिकोडिंग रणनीतियों में से किसी एक का इस्तेमाल करके, इन डिस्ट्रिब्यूशन को असल टेक्स्ट रिस्पॉन्स में बदल देता है. डिकोड करने की आसान रणनीति से, हर टाइमस्टेप पर सबसे सही टोक़न चुना जा सकता है. यह प्रोसेस हमेशा तय होती है. हालांकि, इसके बजाय, मॉडल से मिले डिस्ट्रिब्यूशन के आधार पर, रैंडम सैंपलिंग करके जवाब जनरेट किया जा सकता है. यह प्रोसेस स्टोकेस्टिक (रैंडम) होगी. डिकोड करने की इस प्रोसेस में, यादृच्छिकता की डिग्री को कंट्रोल करने के लिए, तापमान सेट करें. 0 का मतलब है कि सिर्फ़ सबसे संभावित टोकन चुने गए हैं और कोई भी टोकन रैंडम तौर पर नहीं चुना गया है. इसके उलट, ज़्यादा तापमान से मॉडल के चुने गए टोकन में ज़्यादा बदलाव होता है. इससे मॉडल के जवाब, उम्मीद से ज़्यादा अलग और हैरान करने वाले होते हैं.

अगले चरण