Stratégies de conception des invites

Cette page présente certaines stratégies générales de conception d'invites que vous pouvez utiliser lorsque vous concevez des invites. Bien qu'il n'existe pas de méthode correcte ou incorrecte pour concevoir une invite, il existe des stratégies courantes que vous pouvez utiliser pour affecter les réponses du modèle. Des tests et des évaluations rigoureux restent crucial pour optimiser les performances du modèle.

Les grands modèles de langage (LLM) sont entraînés sur de grandes quantités de données textuelles pour apprendre les schémas et les relations entre les unités de langage. Lorsqu'ils reçoivent un texte (l'invite), les modèles de langage peuvent prédire ce qui est le plus susceptible de suivre, à la manière d'un outil de saisie semi-automatique très sophistiqué. Par conséquent, lorsque vous concevez des invites, prenez en compte les différents facteurs susceptibles d'influencer les prédictions du modèle.

Fournissez des instructions claires et spécifiques

Donner au modèle des instructions sur ce qu'il doit faire constitue un moyen efficace de personnaliser son comportement. Assurez-vous que les instructions fournies sont claires et spécifiques. Les instructions peuvent être aussi simples qu'une liste d'instructions détaillées ou aussi complexes que de définir l'expérience et l'état d'esprit d'un utilisateur.

Définir la tâche à effectuer

Décrivez en détail la tâche que le modèle doit effectuer. La tâche peut être aussi simple qu'une liste d'instructions détaillées ou aussi complexe que cartographier l'expérience et l'état d'esprit d'un utilisateur. L'invite suivante demande au modèle de résumer un bloc de texte :

Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.
  

Spécifiez les contraintes

Spécifiez les contraintes liées à la lecture de l'invite ou à la génération d'une réponse. Vous pouvez indiquer au modèle ce qu'il doit faire et ne pas faire. Dans l'exemple précédent, la synthèse est plus courte que le texte d'origine, mais vous souhaitez peut-être que le résumé soit plus court. Dans ce cas, vous pouvez spécifier une contrainte dans l'invite concernant la durée du résumé :

Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.
    

Définir le format de la réponse

Vous pouvez également fournir des instructions spécifiant le format de la réponse. Par exemple, vous pouvez demander que la réponse soit mise en forme sous forme de tableau, de liste à puces, d'argumentaire éclair, de mots clés, de phrase ou de paragraphe. L'invite suivante demande au modèle de fournir des listes à puces des informations clés du texte :

Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.
  

Résumé

  • Fournissez des instructions au modèle sur la manière de procéder.
  • Soyez clair et précis.
  • Spécifiez les contraintes ou les exigences de mise en forme de la sortie.

Inclure des exemples few-shot

Vous pouvez inclure des exemples dans l'invite afin de montrer au modèle à quoi ressemble une réponse correcte. Le modèle tente d'identifier des modèles et des relations à partir des exemples, puis les applique lors de la génération d'une réponse. Les invites contenant quelques exemples sont appelées des invites few-shot, tandis que les invites qui ne fournissent aucun exemple sont appelées invites zero-shot. Les invites few-shot sont souvent utilisées pour réguler la mise en forme, la formulation, le champ d'application ou la mise en forme générale des réponses du modèle. Utilisez des exemples spécifiques et variés pour aider le modèle à affiner son champ d'action et à générer des résultats plus précis.

Nous vous recommandons de toujours inclure des exemples few-shot dans vos requêtes. Les requêtes sans exemples few-shot sont susceptibles d'être moins efficaces, car elles montrent au modèle comment appliquer des instructions. En fait, vous pouvez supprimer les instructions de votre requête si les exemples sont suffisamment clairs pour montrer la tâche à accomplir.

Invites zero-shot et invites few-shot

L'invite zero-shot suivante demande au modèle de choisir la meilleure explication.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1
  

Si votre cas d'utilisation nécessite que le modèle produise des réponses concises, vous pouvez inclure dans l'invite des exemples qui privilégient les réponses concises.

L'invite suivante fournit deux exemples qui indiquent une préférence pour les explications plus courtes. Dans la réponse, vous pouvez constater que les exemples ont poussé le modèle à choisir l'explication la plus courte (Explication2), par opposition à la plus longue (Explication1).

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation2
  

Trouver le nombre optimal d'exemples

Vous pouvez tester le nombre d'exemples à fournir dans l'invite pour obtenir les résultats les plus satisfaisants. Des modèles tels que PaLM et Gemini peuvent souvent détecter des schémas avec seulement quelques exemples, mais vous devrez peut-être tester le nombre d'exemples vous permettant d'obtenir les résultats souhaités. Pour les modèles plus simples tels que BERT, vous aurez peut-être besoin de plus d'exemples. Cependant, si vous incluez trop d'exemples, le modèle peut manifester un surapprentissage qui biaise les réponses obtenues.

Utiliser des exemples pour illustrer des schémas positifs plutôt que négatifs

L'utilisation d'exemples pour montrer au modèle un schéma à respecter est plus efficace que l'utilisation d'exemples pour montrer au modèle un schéma à éviter.

Schéma négatif :

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Schéma positif :

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Utiliser une mise en forme cohérente pour tous les exemples

Assurez-vous que la structure et la mise en forme des exemples few-shot sont identiques pour éviter les réponses dont le format est indésirable. L'un des principaux objectifs de l'ajout d'exemples few-shot dans les requêtes est de montrer au modèle le format de réponse. Par conséquent, il est essentiel de veiller à la cohérence du format dans tous les exemples, en particulier les balises XML, les espaces blancs, les sauts de ligne et les séparateurs d'exemples.

Résumé

  • L'inclusion d'exemples de réponse dans l'invite aide le modèle à apprendre comment répondre.
  • Fournissez au modèle des exemples de schémas à suivre plutôt que des exemples de schémas à éviter.
  • Testez le nombre d'invites à inclure. Selon le modèle, un nombre insuffisant d'exemples peut ne pas suffir à changer le comportement du modèle. Un trop grand nombre d'exemples peut entraîner un surapprentissage du modèle.
  • Utiliser une mise en forme cohérente pour tous les exemples

Ajouter des informations contextuelles

Vous pouvez inclure dans l'invite des instructions et des informations dont le modèle a besoin pour résoudre un problème au lieu de supposer que le modèle dispose de toutes les informations requises. Ces informations contextuelles aident le modèle à comprendre les contraintes et les détails de ce que vous lui demandez de faire.

L'exemple suivant demande au modèle de fournir des conseils de dépannage pour un routeur :

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.


2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.


3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.


4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).


5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.


6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.


7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.


8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.
  

La réponse est semblable aux informations de dépannage génériques qui ne sont pas spécifiques au routeur ou à l'état des témoins LED.

Pour personnaliser la réponse en fonction du routeur spécifique, vous pouvez ajouter le guide de dépannage du routeur à l'invite en tant que contexte auquel le modèle doit faire référence dans sa réponse.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Résumé

  • Incluez dans l'invite les informations (contexte) que vous souhaitez que le modèle utilise lors de la génération d'une réponse.
  • Donnez au modèle des instructions sur la façon d'utiliser les informations contextuelles.

Ajouter des préfixes

Un préfixe est un mot ou une expression que vous ajoutez au contenu de l'invite et qui peut servir plusieurs objectifs, en fonction de l'endroit où vous ajoutez le préfixe :

  • Préfixe d'entrée : l'ajout d'un préfixe à l'entrée signale au modèle les parties sémantiquement significatives de l'entrée. Par exemple, les préfixes "Anglais :" et "Français :" permettent de différencier deux langues différentes.
  • Préfixe de sortie : même si la sortie est générée par le modèle, vous pouvez ajouter un préfixe de sortie dans l'invite. Le préfixe de sortie fournit aux modèles des informations sur les réponses attendues. Par exemple, le préfixe de sortie "JSON :" indique au modèle que la sortie doit être au format JSON.
  • Préfixe d'exemple : dans les invites few-shot, l'ajout de préfixes aux exemples fournit des libellés que le modèle peut utiliser lors de la génération du contenu de sortie afin d'en faciliter l'analyse.

Dans l'exemple suivant, "Texte :" est le préfixe d'entrée et "La réponse est :" est le préfixe de sortie.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
large
  

Laisser le modèle terminer une entrée partielle

Les modèles de langage génératif fonctionnent comme un outil de saisie semi-automatique avancé. Lorsque vous fournissez un contenu partiel, le modèle peut fournir le reste du contenu ou ce qu'il considère comme une suite de ce contenu en tant que réponse. Ainsi, si vous incluez des exemples ou du contexte, le modèle peut prendre en compte ces exemples ou éléments de contexte.

L'exemple suivant fournit une invite avec une instruction et une entrée d'entité :

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```
  

Bien que le modèle ait respecté l'invite, il peut parfois être difficile d'écrire les instructions en langage naturel et cela laisse une marge d'interprétation au modèle. Par exemple, un menu de restaurant peut contenir de nombreux éléments. Pour réduire la taille de la réponse JSON, vous souhaiterez probablement omettre les articles qui n'ont pas été commandés. Dans ce cas, vous pouvez fournir un exemple et un préfixe de réponse, puis laisser le modèle le terminer :

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```
  

Notez que le "cheeseburger" a été exclu du résultat, car il ne faisait pas partie de la commande.

Demander au modèle de mettre en forme sa réponse

La stratégie consistant à terminer ou compléter une entrée peut également vous aider à formater la réponse. L'exemple suivant demande au modèle de créer un plan de dissertation :

Create an outline for an essay about hummingbirds.
  
I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.
  

L'invite ne mentionnait pas de format pour le plan et le modèle a choisi un format pour vous. Pour que le modèle renvoie un plan dans un format spécifique, vous pouvez ajouter du texte représentant le début du plan et laisser le modèle le terminer en fonction du schéma que vous avez initié.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.
  

Résumé

  • Si vous fournissez une entrée partielle au modèle, celui-ci complète cette entrée en fonction des exemples ou du contexte disponibles dans l'invite.
  • Il est parfois plus facile de faire compléter une entrée par le modèle que de décrire la tâche en langage naturel.
  • L'ajout d'une réponse partielle à une invite peut aider le modèle à suivre le schéma ou le format souhaité.

Décomposer les requêtes en composants simples

Pour les cas d'utilisation nécessitant des invites complexes, vous pouvez aider le modèle à gérer cette complexité en décomposant les choses en composants plus simples.

Instructions de répartition

Au lieu d'avoir plusieurs instructions dans une seule requête, créez une invite par instruction. Vous pouvez choisir l'invite à traiter en fonction de l'entrée utilisateur.

Invites de chaîne

Pour les tâches complexes impliquant plusieurs étapes séquentielles, faites de chaque étape une requête et associez-les dans une séquence. Dans cette chaîne de requêtes séquentielle, la sortie d'une requête de la séquence devient l'entrée de la requête suivante. La sortie de la dernière invite de la séquence est la sortie finale.

Regrouper les réponses

L'agrégation consiste à effectuer différentes tâches parallèles sur différentes parties de données et à agréger les résultats pour produire le résultat final. Par exemple, vous pouvez demander au modèle d'effectuer une opération sur la première partie des données, une autre sur le reste des données et agréger les résultats.

Résumé

  • Décomposez les instructions complexes en une requête pour chaque instruction et choisissez celle à appliquer en fonction de l'entrée utilisateur.
  • Décomposez plusieurs étapes séquentielles en invites distinctes et associez-les de sorte que la sortie de la requête précédente devienne l'entrée de la requête suivante.
  • Décomposer les tâches parallèles et agréger les réponses pour produire le résultat final.

Tester différentes valeurs de paramètre

Chaque appel que vous envoyez à un modèle inclut des valeurs de paramètres qui contrôlent la manière dont le modèle génère sa réponse. Le modèle peut générer différents résultats pour différentes valeurs de paramètre. Testez différentes valeurs de paramètre pour obtenir les meilleures valeurs pour la tâche. Les paramètres disponibles pour les différents modèles peuvent différer. Les paramètres les plus courants sont les suivants :

  • Nombre maximal de jetons de sortie
  • Température
  • Top K
  • Top P

Nombre maximal de jetons de sortie

Nombre maximal de jetons pouvant être générés dans la réponse. Un jeton correspond environ à quatre caractères. 100 jetons correspondent à environ 60-80 mots.

Spécifiez une valeur inférieure pour les réponses plus courtes et une valeur plus élevée pour les réponses plus longues.

Température

La température est utilisée pour l'échantillonnage pendant la génération des réponses, qui se produit lorsque topP et topK sont appliqués. La température permet de contrôler le degré de hasard dans la sélection des jetons. Les températures inférieures sont idéales pour les invites qui nécessitent une réponse plus déterministe et moins ouverte ou créative, tandis que des températures plus élevées peuvent conduire à des résultats plus diversifiés ou créatifs. La température de 0 est déterministe, ce qui signifie que la réponse de probabilité la plus élevée est toujours sélectionnée.

Dans la plupart des cas, essayez de démarrer avec une température de 0.2. Si le modèle renvoie une réponse trop générique ou trop courte, ou s'il renvoie une réponse de remplacement, essayez d'augmenter la température.

Top K

Top K modifie la façon dont le modèle sélectionne les jetons pour la sortie. Une valeur top-K de 1 signifie que le prochain jeton sélectionné est le plus probable parmi tous les jetons du vocabulaire du modèle (également appelé décodage glouton), tandis qu'une valeur top-K de 3 signifie que le jeton suivant est sélectionné parmi les trois jetons les plus probables en utilisant la température.

Pour chaque étape de sélection du jeton, les jetons top-K avec les probabilités les plus élevées sont échantillonnés. Les jetons sont ensuite filtrés en fonction du top-P avec le jeton final sélectionné à l'aide de l'échantillonnage de température.

Spécifiez une valeur inférieure pour les réponses moins aléatoires et une valeur plus élevée pour les réponses plus aléatoires. La valeur par défaut de top-K est 40.

Top P

Top P modifie la façon dont le modèle sélectionne les jetons pour la sortie. Les jetons sont sélectionnés de la valeur la plus élevée (voir top-K) à la moins probable jusqu'à ce que la somme de leurs probabilités soit égale à la valeur top-P. Par exemple, si les jetons A, B et C ont une probabilité de 0,3, 0,2 et 0,1 et que la valeur de top-P est supérieure à 0.5, le modèle sélectionne A ou B comme jeton suivant en utilisant la température et exclut C comme candidat.

Spécifiez une valeur inférieure pour les réponses moins aléatoires et une valeur plus élevée pour les réponses plus aléatoires. La valeur par défaut de top-P est 0.95.

Stratégies d'itération des invites

La conception d'une invite est un processus itératif qui nécessite souvent plusieurs essais avant d'obtenir la réponse souhaitée de manière consistante. Cette section fournit des conseils sur les mesures que vous pouvez appliquer lors de l'itération de vos invites.

Utiliser une formulation différente

L'utilisation de formulations ou de mots différents dans vos invites permet d'obtenir des résultats différents avec un même modèle, même si les invites ont le même sens. Si vous n'obtenez pas les résultats attendus à partir de l'invite, essayez de reformuler.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Basculer sur une tâche similaire

Si vous ne parvenez pas à ce que le modèle suive vos instructions pour une tâche, essayez de lui donner des instructions pour une tâche analogue qui permet d'obtenir le même résultat.

Cette invite demande au modèle de catégoriser un livre en utilisant des catégories prédéfinies.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.
  

La réponse est correcte, mais le modèle n'est pas resté dans les limites des options. Vous souhaitez également que le modèle réponde avec l'une des options plutôt qu'avec une phrase complète. Dans ce cas, vous pouvez reformuler les instructions sous la forme d'une question à choix multiples et demander au modèle de choisir une option.

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The answer is: mythology
  

Modifier l'ordre du contenu dans l'invite

L'ordre du contenu dans l'invite peut parfois affecter la réponse. Essayez de modifier l'ordre du contenu et vérifiez comment cela affecte la réponse.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Réponses de remplacement

Une réponse de remplacement est une réponse renvoyée par le modèle lorsque l'invite ou la réponse déclenche un filtre de sécurité. Voici un exemple de réponse de remplacement : "Je ne peux pas vous aider, car je ne suis qu'un modèle de langage".

Si le modèle renvoie une réponse de remplacement, essayez d'augmenter la température.

Ce qu'il faut éviter

  • Évitez de compter sur les modèles pour générer des informations factuelles.
  • Utilisez-les avec soin pour résoudre les problèmes mathématiques et logiques.

Étapes suivantes