אסטרטגיות לעיצוב הנחיות

בדף הזה נסביר על כמה אסטרטגיות כלליות לעיצוב הנחיות שאפשר להשתמש בהן כשאתם מעצבים הנחיות.

מודלים גדולים של שפה (LLM) מאומנים על כמויות אדירות של נתוני טקסט כדי ללמוד את הדפוסים והיחסים בין השפה. כשנותנים להם טקסט (הפרומפט), מודלים של שפה יכולים לחזות מה סביר שיופיע בהמשך, כמו כלי מתוחכם להשלמה אוטומטית.

Google AI Studio מארח גלריית הנחיות פשוטה, שמטרתה להציג באופן אינטראקטיבי רבים מהקונספטים שישותפו במדריך הזה. בהמשך המדריך נסביר על אסטרטגיות העיצוב הבאות של הנחיות:

לתת הוראות ברורות וספציפיות

הדרך האפקטיבית והיעילה ביותר להתאים אישית את התנהגות המודל היא לתת לו הוראות לביצוע. חשוב לוודא שההוראות שתתנו יהיו ברורות וספציפיות. ההוראות יכולות להיות פשוטות כמו רשימה של הוראות מפורטות, או מורכבות כמו מיפוי של חוויית המשתמש והגישה שלו.

הגדרת המשימה לביצוע

תארו בפירוט את המשימה שרוצים שהמודל יבצע. המשימה יכולה להיות פשוטה כמו רשימה של הוראות מפורטות, או מורכבת כמו מיפוי של חוויית המשתמש והגישה שלו. ההנחיה הבאה מורה למודל לסכם בלוק של טקסט:

Summarize this text:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
    Quantum computers leverage the wave-particle duality of matter at tiny scales to perform
    calculations exponentially faster than traditional computers. They harness quantum phenomena,
    which are beyond the scope of classical physics, to achieve this speed advantage. While
    promising for applications like cybersecurity, weather forecasting, and beyond, current
    quantum computers are still experimental and not yet practical for widespread use.
  

מציינים אילוצים

מציינים אילו אילוצים יש לקריאת ההנחיה או ליצירת התגובה. אפשר להנחות את המודל מה לעשות ולא לעשות. מהדוגמה הקודמת, הסיכום קצר יותר מהטקסט המקורי, אבל אולי תרצו שהסיכום יהיה קצר יותר. במקרה כזה, אפשר לציין בהנחיה את אורך הסיכום הרצוי:

Summarize this text in two sentences:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Quantum computers harness the wave-particle duality of matter at the quantum level to perform
      computations exponentially faster than traditional computers. While these machines hold
      immense potential for fields like cybersecurity and weather forecasting, they are currently
      in their early stages of development and not yet practical for widespread use.
    

הגדרת הפורמט של התגובה

אפשר גם לספק הוראות שמציינות את פורמט התשובה. לדוגמה, אפשר לבקש שהתשובה תהיה בפורמט של טבלה, רשימה עם תבליטים, 'נאום מעלית', מילות מפתח, משפט או פסקה. הודעת המערכת הבאה מורה למודל לנסח תשובה בצורה יותר שיחה:

    All questions should be answered comprehensively with details, unless the user requests a
    concise response specifically. Respond in the same language as the query.
  
    What is a smart way to create a lemonade business?
  
Launching a Successful Lemonade Stand: A Smart Approach
Creating a lemonade business, whether a simple stand or a larger operation, requires strategic thinking. Here's a breakdown of how to approach it smartly:

1. Define Your Business:
Scope: Are you aiming for a small, seasonal lemonade stand, a food truck, a delivery service, or something else entirely?
Target Audience: Who are you selling to? Families, office workers, tourists?
Unique Selling Proposition: What sets your lemonade apart? Special flavors, organic ingredients, a unique recipe?

Pricing: Research competitor prices and determine a profitable pricing structure.
Location: Consider foot traffic, accessibility, and regulations for your chosen location.
.....
  

סיכום

  • נותנים למודלים הוראות לביצוע.
  • חשוב שההוראות יהיו ברורות וספציפיות.
  • מציינים אילו אילוצים או דרישות פורמט חלים על הפלט.

הוספת דוגמאות של 'ללא הרבה דוגמאות'

אפשר לכלול דוגמאות בהנחיה שמראות איך המודל עובד כמו שצריך. המודל מנסה לזהות דפוסים ויחסים מהדוגמאות ולהחיל אותם בזמן יצירת התשובה. הנחיות שמכילות כמה דוגמאות נקראות הנחיות ל-few-shot, ואילו הנחיות שלא כוללות דוגמאות נקראות הנחיות ל-zero-shot. הנחיות ב-Few-shot משמשות לרוב לוויסות הפורמט, הניסוח, ההיקף או התבנית הכללית של התשובות של המודל. כדאי להשתמש בדוגמאות ספציפיות ומגוונות כדי לעזור למודל לצמצם את המיקוד שלו ולהשיג תוצאות מדויקות יותר.

תמיד מומלץ לכלול בהנחיות את הדוגמאות של כמה דוגמאות. סביר להניח שהנחיות ללא דוגמאות של 'כמה תמונות בלבד' יהיו פחות יעילות. למעשה, אפשר להסיר את ההוראות מההנחיה אם הדוגמאות מספיק ברורות כדי להראות את המשימה.

הנחיות ישירות (Zero-shot) לעומת הנחיות עם כמה דוגמאות

ההנחיה הבאה ללא תגובה מראש מבקשת מהמודל לבחור את ההסבר הטוב ביותר.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation 1 is the best explanation.
  

אם בתרחיש לדוגמה שלכם נדרש מהמודל לספק תשובות תמציתיות, תוכלו לכלול בהנחיה דוגמאות שמעדיפות תשובות תמציתיות.

בהנחיה הבאה מפורטות שתי דוגמאות שממחישות את ההעדפה להסברים קצרים יותר. בתגובה אפשר לראות שהדוגמאות הובילו את המודל לבחור את ההסבר הקצר יותר (Explanation2) במקום את ההסבר הארוך יותר (Explanation1), כמו שהיה בעבר.

Below are some examples showing a question, explanation, and answer format:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2
  

מצאו את המספר האופטימלי של דוגמאות

אתם יכולים להתנסות במספר הדוגמאות שתרצו לספק בהנחיה כדי לקבל את התוצאות הרצויות ביותר. לרוב, מודלים כמו Gemini יכולים לזהות דפוסים באמצעות כמה דוגמאות, אבל יכול להיות שתצטרכו להתנסות במספר הדוגמאות שמובילות לתוצאות הרצויות. עם זאת, אם תכללו יותר מדי דוגמאות, המודל עלול להתחיל להתאים יותר מדי את התשובה לדוגמאות.

שימוש בדוגמאות כדי להראות דפוסים במקום דפוסים שליליים

שימוש בדוגמאות כדי להראות למודל דפוס שצריך לפעול לפיו יעיל יותר משימוש בדוגמאות כדי להראות למודל דפוס הפוך שצריך להימנע ממנו.

דפוס שלילי:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

דפוס חיובי:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

שימוש בפורמט עקבי בכל הדוגמאות

חשוב לוודא שהמבנה והפורמט של הדוגמאות מכמה שוטים זהים כדי להימנע מתשובות עם פורמטים לא רצויים. אחת המטרות העיקריות של הוספת דוגמאות של כמה שוטים בהנחיות היא להציג למודל את פורמט התשובה. לכן חשוב לוודא שכל הדוגמאות יהיו בפורמט עקבי, במיוחד תוך תשומת לב לתגי XML, למרווחים לבנים, לשורות חדשות ולמפרידים בין הדוגמאות.

סיכום

  • כדאי לכלול בהנחיה דוגמאות לתשובות, כדי לעזור למודל ללמוד איך להשיב.
  • תנו למודל דוגמאות של הדפוסים שצריך ליישם במקום דוגמאות לדפוסים שכדאי להימנע מהם.
  • כדאי להתנסות במספר ההנחיות להכללה. בהתאם למודל, מעט מדי דוגמאות לא יעילות בשינוי ההתנהגות של המודל. יותר מדי דוגמאות גורמות למודל להתאים את עצמו יותר מדי לנתונים.
  • שימוש בפורמט עקבי בכל הדוגמאות

הוספת מידע לפי הקשר

אתם יכולים לכלול בהנחיה הוראות ומידע שהמודל צריך כדי לפתור בעיה, במקום להניח שלמודל יש את כל המידע הנדרש. המידע ההקשרי הזה עוזר למודל להבין את המגבלות והפרטים של מה שאתם מבקשים ממנו לעשות.

בדוגמה הבאה, המערכת מתבקשת לתת הנחיות לפתרון בעיות בנתב:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem with the internet connection. Here are some steps to troubleshoot and fix the issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....
  

התשובה נראית כמו מידע כללי לפתרון בעיות, ולא מידע ספציפי לנתב או לסטטוס של נוריות ה-LED.

כדי להתאים אישית את התשובה לנתב הספציפי, אפשר להוסיף להנחיה את מדריך פתרון הבעיות של הנתב כהקשר שאליו היא תתייחס כשהיא תספק תשובה.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

סיכום

  • מומלץ לכלול בהנחיה מידע (הקשר) שבו המודל ישתמש בזמן יצירת התשובה.
  • נותנים למודל הוראות לשימוש במידע לפי ההקשר.

הוספת תחיליות

קידומת היא מילה או ביטוי שמוסיפים לתוכן ההנחיה, ויכולה לשמש למספר מטרות, בהתאם למיקום שבו שמים את הקידומת:

  • קידומת קלט: הוספת קידומת לאותות הקלט כדי לסמן למודל את החלקים המשמעותיים מבחינה סמנטית בקלט. לדוגמה, התחיליות 'English:‎' ו-'French:‎' מסמנות שתי שפות שונות.
  • תחילית פלט: אף על פי שהפלט נוצר על ידי המודל, אפשר להוסיף תחילית לפלט בהנחיה. הקידומת של הפלט מספקת למודל מידע על התשובה הצפויה. לדוגמה, הקידומת של הפלט 'JSON:‎' מסמנת למדגם שהפלט צריך להיות בפורמט JSON.
  • קידומת לדוגמה: בהנחיות עם כמה שוטים, הוספת קידומות לדוגמאות מעניקה תוויות שבהן המודל יכול להשתמש בעת יצירת הפלט, וכך קל יותר לנתח את תוכן הפלט.

בדוגמה הבאה, 'Text:‎' הוא הקידומת של הקלט ו-'The answer is:‎' הוא הקידומת של הפלט.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large
  

מאפשרים למודל להשלים קלט חלקי

מודלים גנרטיביים של שפה פועלים כמו כלי מתקדם להשלמה אוטומטית. כשאתם מספקים תוכן חלקי, המודל יכול לספק את שאר התוכן או את מה שהוא חושב שהוא המשך של התוכן הזה בתור תשובה. כשאתם עושים זאת, אם תכללו דוגמאות או הקשר, המודל יוכל להביא בחשבון את הדוגמאות או ההקשר האלה.

בדוגמה הבאה מוצגת הנחיה עם קלט של ישות:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
  "hamburger": 1,
  "drink": 1
}
```
  

המודל אכן פעל לפי ההנחיה, אבל לפעמים קשה לכתוב את ההוראות בשפה טבעית, והרבה תלוי בפרשנות של המודל. לדוגמה, תפריט של מסעדה יכול להכיל הרבה פריטים. כדי לצמצם את גודל התגובה של ה-JSON, מומלץ להשמיט את הפריטים שלא הוזמנו. במקרה כזה, אפשר לתת דוגמה וקידומת לתשובה ולאפשר למודל להשלים אותה:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```
  

שימו לב ש-'המבורגר' לא נכלל בפלט כי הוא לא היה חלק מההזמנה.

איך מבקשים מהמודל לעצב את התשובה

אסטרטגיית ההשלמה יכולה גם לעזור בפורמט התשובה. הדוגמה הבאה מנחה את המודל ליצור תיאור כללי של חיבור:

Create an outline for an essay about hummingbirds.
  
  Hummingbirds: A Symphony of Speed and Color
    I. Introduction
    A. Hummingbirds are fascinating creatures known for their dazzling colors, lightning-fast flight, and unique feeding habits.
    B. Brief overview of the diversity of hummingbird species and their geographic distribution.
    C. Thesis statement: Hummingbirds are an embodiment of resilience, adaptation, and the wonders of the natural world.
.....
  

בהנחיה לא צוין הפורמט של התכנון, והמודל בחר פורמט בשבילכם. כדי לגרום למסגרת להופיע בפורמט ספציפי, אפשר להוסיף טקסט שמייצג את ההתחלה של המסגרת ולאפשר למסגרת להיוצר על סמך התבנית שהגדרתם.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
  Hummingbirds: Jewels of the Air
    **I. Introduction**
       * **Hook:** Begin with a captivating image or anecdote about hummingbirds, emphasizing their vibrant colors, rapid flight, and unique feeding habits.
       * **Background:** Briefly introduce hummingbirds as the smallest birds in the world and their fascinating adaptations for a nectar-rich diet.
       * **Thesis:** State the main argument or focus of the essay. Examples: 
            * **The incredible adaptations of hummingbirds enable them to thrive in diverse ecosystems.**
            * **Hummingbirds play a crucial role in pollination and biodiversity.**
            * **The beauty and grace of hummingbirds make them captivating subjects for both scientific study and artistic appreciation.**
  

סיכום

  • אם נותנים למודל קלט חלקי, הוא משלים את הקלט הזה על סמך דוגמאות או הקשר זמינים בהנחיה.
  • לפעמים קל יותר לבקש מהמודל להשלים קלט מאשר לתאר את המשימה בשפה טבעית.
  • אם מוסיפים תשובה חלקית להנחיה, המודל מתחיל לפעול לפי תבנית או פורמט רצויים.

פירוק ההנחיות לרכיבים פשוטים

בתרחישי שימוש שבהם נדרשות הנחיות מורכבות, אפשר לעזור למודל להתמודד עם המורכבות הזו על ידי פירוט הדברים לרכיבים פשוטים יותר.

פירוט ההוראות

במקום להוסיף הרבה הוראות להנחיה אחת, כדאי ליצור הנחיה אחת לכל הוראה. אפשר לבחור איזו הנחיה לעבד על סמך הקלט של המשתמש.

הנחיות בשרשור

למשימות מורכבות שכוללות כמה שלבים רצופים, אפשר להפוך כל שלב להנחיה ולקשר את ההנחיות ברצף. בשרשרת הרציפה הזו של הנחיות, הפלט של הנחיה אחת ברצף הופך לקלט של ההנחיה הבאה. הפלט של ההנחיה האחרונה ברצף הוא הפלט הסופי.

תשובות מצטברות

כדאי להשתמש בצבירה כשרוצים לבצע משימות מקבילות שונות בחלקים שונים של הנתונים ולצבור את התוצאות כדי ליצור את הפלט הסופי. לדוגמה, אפשר להורות למודל לבצע פעולה אחת על החלק הראשון של הנתונים, לבצע פעולה אחרת על שאר הנתונים ולצבור את התוצאות.

סיכום

  • כדאי לפרק הוראות מורכבות להנחיה לכל הוראה ולהחליט איזו הנחיה להחיל על סמך הקלט של המשתמש.
  • כדאי לפרק כמה שלבים רצופים להנחיות נפרדות ולקשר אותן כך שהפלט של ההנחיה הקודמת יהפוך לקלט של ההנחיה הבאה.
  • פירוט המשימות המקבילות וצבירה של התשובות כדי ליצור את הפלט הסופי.

ניסוי עם ערכים שונים של פרמטרים

כל קריאה ששולחים למודל כוללת ערכי פרמטרים ששולטים באופן שבו המודל יוצר תגובה. המודל יכול ליצור תוצאות שונות עבור ערכי פרמטרים שונים. כדאי לנסות ערכי פרמטרים שונים כדי למצוא את הערכים הטובים ביותר למשימה. הפרמטרים שזמינים למודלים שונים עשויים להיות שונים. הפרמטרים הנפוצים ביותר הם:

  • אסימוני פלט מקסימלי
  • טמפרטורה
  • למעלה מ-K
  • Top-P

מספר מקסימלי של אסימוני פלט

המספר המקסימלי של אסימונים שאפשר ליצור בתגובה. אסימון הוא ארבעה תווים בערך. 100 אסימונים מקבילים לכ-20 מילים.

מציינים ערך נמוך יותר לתשובות קצרות וערך גבוה יותר לתשובות ארוכות יותר.

טמפרטורה

הטמפרטורה משמשת לדגימה במהלך יצירת התגובה, שמתרחשת כשמחילים את topP ואת topK. הטמפרטורה שולטת במידת האקראיות בבחירת האסימון. טמפרטורות נמוכות טובות להנחיות עם ציפייה לתשובה deterministית יותר, ולא לתשובה פתוחה או יצירתית, ואילו טמפרטורות גבוהות יכולות להוביל לתוצאות יותר מגוונות או יצירתיות. טמפרטורה של 0 היא גורמית, כלומר תמיד נבחרת התשובה עם ההסתברות הגבוהה ביותר.

ברוב התרחישים לדוגמה, כדאי להתחיל בטמפרטורה של 0.2. אם התשובה שמוחזרת על ידי המודל קצרה מדי, גנרית מדי או שהיא תשובה חלופית, כדאי לנסות להגדיל את הטמפרטורה.

למעלה מ-K

האפשרות Top-K משנה את האופן שבו המודל בוחר אסימונים לפלט. כשה-top-K הוא 1, המשמעות היא שהאסימון הבא שנבחר הוא בעל ההסתברות הגבוהה ביותר מבין כל האסימונים במילון של המודל (נקרא גם פענוח חמדן). לעומת זאת, כשה-top-K הוא 3, המשמעות היא שהאסימון הבא נבחר מתוך שלושת האסימונים עם ההסתברות הגבוהה ביותר באמצעות טמפרטורה.

בכל שלב של בחירת אסימונים, מתבצעת דגימה של 'ה-K הטובים ביותר' עם ההסתברויות הגבוהות ביותר. לאחר מכן, האסימונים מסוננים עוד יותר על סמך top-P, והאסימון הסופי נבחר באמצעות דגימת טמפרטורה.

מציינים ערך נמוך יותר כדי לקבל פחות תשובות אקראיות וערך גבוה יותר כדי לקבל יותר תשובות אקראיות. ערך ברירת המחדל של top-K הוא 40.

Top-P

ההיבט העליון (P) משנה את האופן שבו המודל בוחר אסימונים לפלט. האסימונים נבחרים מהסיכוי הגבוה ביותר (ראו top-K) עד הנמוך ביותר, עד שסכום הסיכויים שלהם שווה לערך top-P. לדוגמה, אם ההסתברות של האסימונים A,‏ B ו-C היא 0.3,‏ 0.2 ו-0.1, וערך ה-top-P הוא 0.5, המודל יבחר את האסימון הבא מתוך A או B באמצעות הטמפרטורה, ויחרוג את C מהאפשרויות.

מציינים ערך נמוך יותר כדי לקבל פחות תשובות אקראיות וערך גבוה יותר כדי לקבל יותר תשובות אקראיות. ערך ברירת המחדל העליון (P) הוא 0.95.

אסטרטגיות של הנחיות לחידוד

עיצוב הנחיות הוא תהליך איטרטיבי, ולרוב נדרשות כמה חזרות לפני שמקבלים את התשובה הרצויה באופן עקבי. בקטע הזה מפורטות כמה פעולות שאפשר לנסות כשמשנים את ההנחיות.

שימוש בניסוח שונה

שימוש במילים או בביטויים שונים בהנחיות לרוב מניב תשובות שונות מהמודל, למרות שכולן מתייחסות לאותו הדבר. אם התוצאות לא תואמות לציפיות שלכם מההנחיה, נסו לנסח אותה מחדש.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

מעבר למשימה דומה

אם אתם לא מצליחים לגרום למודל לפעול לפי ההוראות שלכם למשימה מסוימת, נסו לתת לו הוראות למשימה דומה שמובילה לאותה תוצאה.

ההנחיה הזו מורה למודל לסווג ספר באמצעות קטגוריות מוגדרות מראש.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
    The Odyssey belongs to the category of **mythology**. 

    Here's why:
    
    * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
    journey home after the Trojan War. It features gods, monsters, and supernatural events common to
    Greek mythology.
.....
  

התשובה נכונה, אבל המודל לא עמד בגבולות האפשרויות. בנוסף, כדאי להגדיר שהמודל יגיב רק באחת מהאפשרויות במקום במשפט מלא. במקרה כזה, תוכלו לנסח מחדש את ההוראות כשאלה אמריקאית ולבקש מהמודל לבחור אפשרות.

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The correct answer is **mythology**. 
  

שינוי סדר התוכן של ההנחיה

לפעמים הסדר של התוכן בהנחיה יכול להשפיע על התשובה. נסו לשנות את סדר התוכן ולראות איך זה משפיע על התשובה.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

תשובות חלופיות

תגובה חלופית היא תשובה שהמודל מחזיר כשההנחיה או התשובה מפעילים מסנן בטיחות. דוגמה לתשובה חלופית היא "אין לי אפשרות לעזור בעניין הזה, כי אני רק מודל שפה".

אם המודל מגיב בתשובת ברירת מחדל, נסו להגדיל את הטמפרטורה.

דברים שיש להימנע מהם

  • הימנעו מהסתמכות על מודלים ליצירת מידע עובדתי.
  • צריך להפעיל שיקול דעת כשמשתמשים בבעיות מתמטיות ולוגיות.

השלבים הבאים