Auf dieser Seite werden einige allgemeine Strategien für das Entwerfen von Prompts vorgestellt, die Sie beim Entwerfen von Prompts verwenden können. Es gibt keine richtige oder falsche Möglichkeit, einen Prompt zu entwerfen. Es gibt jedoch gängige Strategien, mit denen Sie die Antworten des Modells beeinflussen können. Strenge Tests und Bewertungen bleiben bestehen um die Modellleistung zu optimieren.
Large Language Models (LLM) werden mit riesigen Textdaten trainiert, um Muster und Beziehungen zwischen Spracheinheiten zu erlernen. Bei eingegebenem Text (Prompt) können Sprachmodelle vorhersagen, was als Nächstes passieren wird, z. B. ein ausgefeiltes Tool zur automatischen Vervollständigung. Berücksichtigen Sie daher beim Prompt-Design die verschiedenen Faktoren, die Einfluss darauf haben können, was ein Modell als Nächstes vorhersagt.
Klare und spezifische Anleitung geben
Wenn Sie dem Modell Anweisungen zur Vorgehensweise geben, können Sie das Modellverhalten effektiv und effizient anpassen. Achten Sie darauf, dass die Anweisungen klar und präzise sind. Anleitungen können so einfach sein wie eine Liste von Schritt-für-Schritt-Anleitungen oder so komplex wie das abbilden der Nutzererfahrung und der Denkweise.
Die auszuführende Aufgabe definieren
Beschreiben Sie im Detail die Aufgabe, die das Modell ausführen soll. Die Aufgabe kann so einfach sein wie Schritt-für-Schritt-Liste mit Anweisungen oder so komplex wie die Skizzierung der User Experience und der Denkweise der Nutzenden. Der folgende Prompt weist das Modell an, einen Textblock zusammenzufassen:
Summarize this text. Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially faster than any modern traditional computer. At very tiny scales, physical matter acts as both particles and as waves, and quantum computing uses specialized hardware to leverage this behavior. The operating principles of quantum devices is beyond the scope of classical physics. When deployed at scale, quantum computers could be used in a wide variety of applications such as: in cybersecurity to break existing encryption methods while helping researchers create new ones, in meteorology to develop better weather forecasting etc. However, the current state of the art quantum computers are still largely experimental and impractical. Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster than traditional computers. By exploiting the particle-wave duality of matter at tiny scales, quantum computers leverage specialized hardware to solve problems beyond classical physics. Potential applications include breaking encryption, developing better weather forecasting, and more. However, current quantum computers are still largely experimental and impractical. |
Einschränkungen angeben
Geben Sie alle Einschränkungen für das Lesen des Prompts oder das Generieren einer Antwort an. Sie erkennen das Modell was zu tun ist und was nicht. Im vorherigen Beispiel ist die Zusammenfassung kürzer als die ursprüngliche Zusammenfassung aber vielleicht möchten Sie eine kürzere Zusammenfassung. In diesem Fall können Sie in der Prompt eine Einschränkung für die Dauer der Zusammenfassung angeben:
Summarize this text in two sentences. Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially faster than any modern traditional computer. At very tiny scales, physical matter acts as both particles and as waves, and quantum computing uses specialized hardware to leverage this behavior. The operating principles of quantum devices is beyond the scope of classical physics. When deployed at scale, quantum computers could be used in a wide variety of applications such as: in cybersecurity to break existing encryption methods while helping researchers create new ones, in meteorology to develop better weather forecasting etc. However, the current state of the art quantum computers are still largely experimental and impractical.
Quantum computers use quantum mechanical phenomena to perform calculations much faster than traditional computers. They have the potential to revolutionize various fields, but current quantum computers are still experimental and impractical. |
Definieren Sie das Format der Antwort
Sie können auch Anweisungen zum Formatieren der Antwort geben. Sie können beispielsweise festlegen, dass die Antwort als Tabelle, Aufzählungsliste, Elevator Pitch, Keywords, Satz oder Absatz formatiert wird. Der folgende Prompt weist das Modell an, Aufzählungspunkte der wichtigsten Informationen im Text anzugeben:
Summarize this text as bullets points of key information. Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially faster than any modern traditional computer. At very tiny scales, physical matter acts as both particles and as waves, and quantum computing uses specialized hardware to leverage this behavior. The operating principles of quantum devices is beyond the scope of classical physics. When deployed at scale, quantum computers could be used in a wide variety of applications such as: in cybersecurity to break existing encryption methods while helping researchers create new ones, in meteorology to develop better weather forecasting etc. However, the current state of the art quantum computers are still largely experimental and impractical. - Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than traditional computers. - Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both particles and waves. - Their operating principles transcend classical physics. - Potential applications include cybersecurity, weather forecasting, and more. - Current quantum computers are largely experimental and impractical. |
Zusammenfassung
- Geben Sie den Modellen Anweisungen zur Vorgehensweise.
- Formulieren Sie die Anleitung klar und spezifisch.
- Legen Sie ggf. oder Formatierungsanforderungen für die Ausgabe fest.
Few-Shot-Beispielen einfügen
Sie können Beispiele in den Prompt einfügen, die dem Modell zeigen, wie es aussieht, richtig zu liegen. Das Modell versucht, Muster und Beziehungen aus den Beispielen zu identifizieren und diese beim Generieren einer Antwort anzuwenden. Prompts, die einige Beispiele enthalten, werden als Few-Shot-Prompts bezeichnet, während Prompts, die keine Beispiele enthalten, als Zero-Shot-Prompts bezeichnet werden. Häufig werden Few-Shot-Prompts verwendet, um die Formatierung, die Formulierung, den Geltungsbereich oder das allgemeine Muster der Modellantworten zu regulieren. Verwenden Sie spezifische und vielfältige Beispiele, damit das Modell den Fokus eingrenzen und genauere Ergebnisse generieren kann.
Wir empfehlen, immer Few-Shot-Beispiele in Ihre Prompts aufzunehmen. Prompts mit wenigen Schritten Beispiele sind wahrscheinlich weniger effektiv, da sie dem Modell zeigen, wie Anweisungen angewendet werden. Tatsächlich können Sie eine Anleitung aus Ihrer Prompt entfernen, wenn Ihre Beispiele klar genug sind, um die vorliegende Aufgabe zu zeigen.
Zero-Shot- und Few-Shot-Prompts im Vergleich
In dem folgenden Prompt wird das Modell aufgefordert, die beste Erklärung auszuwählen.
Please choose the best explanation to the question: Question: How is snow formed? Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and accumulate on the ground. Explanation2: Water vapor freezes into ice crystals forming snow. Answer: Explanation1 |
Wenn Ihr Anwendungsfall erfordert, dass das Modell prägnante Antworten erstellt, können Sie Beispiele in den Prompt einfügen, der prägnante Antworten bevorzugt.
Der folgende Prompt enthält zwei Beispiele, die die kürzere Erklärungen zeigen. In der Antwort sehen Sie, dass die Beispiele das Modell dazu veranlasst haben, die kürzere Erklärung auszuwählen (Erklärung2), im Gegensatz zur längeren Erklärung (Erklärung1) wie zuvor.
Please choose the best explanation to the question: Question: Why is sky blue? Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look blue. Explanation2: Due to Rayleigh scattering effect. Answer: Explanation2 Question: What is the cause of earthquakes? Explanation1: Sudden release of energy in the Earth's crust. Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a release of energy that creates seismic waves that can shake the ground and cause damage. Answer: Explanation1 Question: How is snow formed? Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and accumulate on the ground. Explanation2: Water vapor freezes into ice crystals forming snow. Answer: Explanation2 |
Optimale Anzahl von Beispielen finden
Sie können mit der Anzahl der Beispiele experimentieren, die in dem Prompt für die gewünschten Ergebnisse bereitgestellt werden sollen. Modelle wie PaLM und Gemini können anhand einiger Beispiele häufig Muster erkennen. Möglicherweise müssen Sie jedoch mit der Anzahl der Beispiele experimentieren, die zu den gewünschten Ergebnissen führen. Für einfachere Modelle wie BERT benötigen Sie möglicherweise weitere Beispiele. Wenn Sie zu viele Beispiele hinzufügen, kann das Modell die Antwort auf die Beispiele überanpassen.
Beispiele zum Anzeigen von Mustern anstelle von Antimustern verwenden
Das Verwenden von Beispielen, um dem Modell ein Muster zu zeigen, dem es folgen soll, ist effektiver als Beispiele, um dem Modell ein Antimuster zu zeigen, das vermieden werden soll.
⛔ Negative Muster:
Don't end haikus with a question: Haiku are fun A short and simple poem Don't you enjoy them? |
✅ Positives Muster:
Always end haikus with an assertion: Haiku are fun A short and simple poem A joy to write |
Einheitliche Formatierung für alle Beispiele verwenden
Achten Sie darauf, dass die Struktur und Formatierung von Beispielen mit wenigen Aufnahmen identisch ist, um Antworten zu vermeiden. mit unerwünschten Formaten. Eines der Hauptziele beim Hinzufügen von Few-Shot-Beispielen in Prompts besteht darin, dem Modell das Antwortformat anzuzeigen. Daher ist es wichtig, dass Sie für alle Beispiele ein konsistentes Format gewährleisten, insbesondere auf XML-Tags, Leerzeichen, Zeilenumbrüche und Beispiel-Splitter achten.
Fazit
- Wenn Sie Beispiele für Prompt-Antworten in den Prompt aufnehmen, helfen Sie dem Modell zu lernen zu antworten.
- Geben Sie dem Modell Beispiele für die Muster, denen gefolgt werden soll, anstelle von Beispielen für Muster, die vermieden werden sollen.
- Experimentieren Sie mit der Anzahl der einzubeziehenden Prompts. Je nach Modell sind zu wenige Beispiele beim Ändern des Modellverhaltens unwirksam. Zu viele Beispiele verursachen eine Überanpassung des Modells.
- Einheitliche Formatierung für alle Beispiele verwenden
Kontextinformationen hinzufügen
Sie können in den Prompt-Anweisungen und -Informationen angeben, die das Modell benötigt, um ein Problem zu lösen, anstatt davon auszugehen, dass das Modell alle erforderlichen Informationen hat. Diese Kontextinformationen helfen dem Modell, die Einschränkungen und Details dessen zu verstehen, was es tun soll.
Im folgenden Beispiel wird das Modell aufgefordert, eine Anleitung zur Fehlerbehebung für einen Router bereitzustellen:
What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly. 1. **Check the Cables:** - Make sure that all cables are securely connected to your Google Wifi router and modem. - Try replacing the cables with new ones to ensure they are not faulty. 2. **Reboot the Router:** - Unplug your Google Wifi router and modem from the power outlet. - Wait for at least 30 seconds. - Plug the modem and router back in and wait for them to start up. 3. **Factory Reset the Router:** - Resetting the router will restore it to its default settings. - Find the small reset button on the back of the router. - Press and hold the reset button with a paper clip or similar object for 10 seconds. - Release the button and wait for the router to restart. 4. **Check Your Internet Connection:** - Use a wired connection to connect a device directly to your modem. - If the internet works, the issue may be with your router. - If the internet still doesn't work, contact your Internet Service Provider (ISP). 5. **Update Router's Firmware:** - Check if there is a firmware update available for your Google Wifi router. - Download and install the latest firmware update from the Google Wifi app. 6. **Interference and Obstacles:** - Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones. - Remove any obstacles between the router and your devices, such as furniture or thick walls. 7. **Change Wi-Fi Channel:** - In the Google Wifi app, go to Settings > Network & General > Advanced Networking. - Try changing the Wi-Fi channel to a less congested one. 8. **Contact Google Support:** - If you've tried the above steps and the issue persists, contact Google support for further assistance. |
Answer the question using the text below. Respond with only the text provided. Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly. Text: Color: Slowly pulsing yellow What it means: There is a network error. What to do: Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again. Color: Fast blinking yellow What it means: You are holding down the reset button and are factory resetting this device. What to do: If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button. Color: Solid yellow What it means: Router is factory resetting. What to do: This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup. Color: Solid red What it means: Something is wrong. What to do: Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support. Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again. |
Zusammenfassung
- Fügen Sie Informationen (Kontext) in den Prompt ein, die das Modell beim Generieren einer Antwort verwenden soll.
- Geben Sie dem Modell Anweisungen, wie die Kontextinformationen verwendet werden sollen.
Präfixe hinzufügen
Ein Präfix ist ein Wort oder eine Wortgruppe, die Sie dem Inhalt des Prompts hinzufügen, der verschiedene Zwecke erfüllen kann, je nachdem, wo Sie das Präfix einfügen:
- Eingabepräfix: Fügt den Eingabesignalen ein Präfix für die semantisch sinnvolle Teile der Eingabe für das Modell hinzu. Beispielsweise werden durch die Präfixe "Englisch:" und "Französisch:" zwei verschiedene Sprachen abgegrenzt.
- Ausgabepräfix: Obwohl die Ausgabe vom Modell generiert wird, können Sie in den Prompt ein Präfix hinzufügen. Das Ausgabepräfix gibt dem Modell Informationen dazu, was als Antwort erwartet wird. Das Ausgabepräfix "JSON:" signalisiert dem Modell beispielsweise, dass die Ausgabe im JSON-Format vorliegen soll.
- Beispielpräfix: In einigen Few-Shot-Prompts werden durch Hinzufügen von Präfixen zu den Beispielen Labels bereitgestellt, die das Modell beim Generieren der Ausgabe verwenden kann. Dies erleichtert das Parsen von Ausgabeinhalten.
Im folgenden Beispiel ist "Text:" das Eingabepräfix und "Die Antwort ist" ist das Ausgabepräfix.
Classify the text as one of the following categories. - large - small Text: Rhino The answer is: large Text: Mouse The answer is: small Text: Snail The answer is: small Text: Elephant The answer is: large |
Vervollständigung von Teileingaben durch das Modell
Generative Sprachmodelle funktionieren wie ein erweitertes Tool zur automatischen Vervollständigung. Wenn Sie nur Teilinhalte angeben, kann das Modell den Rest des Inhalts bereitstellen oder das, was es als Fortsetzung des Inhalts betrachtet. Wenn Sie Beispiele oder Kontexte einbeziehen, kann das Modell diese Beispiele oder den Kontext berücksichtigen.
Das folgende Beispiel zeigt einen Prompt mit einer Anweisung und einer Entitätseingabe:
For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or drink, with the value being the quantity. Order: A burger and a drink. ``` { "cheeseburger": 0, "hamburger": 1, "fries": 0, "drink": 1 } ``` |
Auch wenn das Modell wie beschrieben funktioniert, kann es schwierig sein, die Anweisungen in natürlicher Sprache zu geben. Dabei bleibt der Interpretation des Modells viel überlassen. Eine Restaurantkarte kann beispielsweise viele Elemente enthalten. Um die Größe der JSON-Antwort zu reduzieren, sollten Sie die Elemente weglassen, die nicht sortiert sind. In diesem Fall können Sie ein Beispiel und ein Antwortpräfix angeben. Lassen Sie das Modell es dann vervollständigen:
Valid fields are cheeseburger, hamburger, fries, and drink. Order: Give me a cheeseburger and fries Output: ``` { "cheeseburger": 1, "fries": 1 } ``` Order: I want two burgers, a drink, and fries. Output: ``` { "hamburger": 2, "drink": 1, "fries": 1 } ``` |
Beachten Sie, dass "Cheeseburger" von der Ausgabe ausgeschlossen wurde, da er nicht Teil der Bestellung war.
Das Modell auffordern, seine Antwort zu formatieren
Sie kann auch bei der Formatierung der Antwort hilfreich sein. Im folgenden Beispiel wird das Modell aufgefordert, einen Aufzug zu erstellen:
Create an outline for an essay about hummingbirds. I. Introduction A. Hook: Begin with an intriguing fact or description of hummingbirds. B. Provide some background information on hummingbirds. 1. Mention their small size and long, thin beaks. 2. Highlight their unique ability to hover and fly backward. II. Body A. Anatomy and Physiology 1. Elaborate on their tiny size, making comparisons to other animals. 2. Describe their wings and how they enable hovering and swift flight. 3. Discuss their metabolism and energy requirements, emphasizing their caloric needs. B. Feeding Habits and Diet 1. Explain their primary food source, nectar, and how they extract it from flowers. 2. Describe their ability to feed from a wide variety of flowers. 3. Mention their consumption of insects and the nutritional value they provide. C. Migration Patterns 1. Discuss the incredible long-distance migrations of some hummingbird species. 2. Explain the phenomenon of seasonal migration and the environmental factors driving it. 3. Describe the routes taken by different species during migration. D. Conservation and Threats 1. Highlight the importance of hummingbirds in ecosystems as pollinators. 2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change. 3. Mention conservation efforts and ways to support hummingbird populations. III. Conclusion A. Summarize the main points covered in the essay. B. Reinforce the importance of hummingbirds and their ecological role. C. Provide a final thought or call to action to protect these fascinating creatures. |
In dem Prompt wurde nicht das Format für den Umriss angegeben, und das Modell hat ein Format für Sie ausgewählt. Damit das Modell einen Umriss in einem bestimmten Format zurückgibt, können Sie Text hinzufügen, der den Anfang des Umrisses darstellt, und den Modell anhand des von Ihnen initiierten Musters fertigstellen.
Create an outline for an essay about hummingbirds. I. Introduction * I. Introduction * Capture the reader's attention with an interesting anecdote or fact about hummingbirds. * Provide a brief background on hummingbirds, including their unique characteristics. * State the main points that will be covered in the essay. II. The Unique Characteristics of Hummingbirds * Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward. * Highlight their tiny size, making them the smallest birds in the world. * Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar. * Explain their iridescent plumage, which creates brilliant and vibrant colors. III. Hummingbird Migration and Distribution * Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents. * Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas. * Explain the seasonal changes that influence hummingbird migration and habitat selection. IV. Hummingbird Diet and Feeding Habits * Focus on the hummingbird's primary food source, which is nectar from flowers. * Describe their ability to consume insects, spiders, and other small invertebrates for protein. * Explain how hummingbirds use their long, slender tongues to extract nectar from flowers. * Discuss the importance of flowering plants in providing sustenance for hummingbirds. V. Reproduction and Nesting Behavior * Describe the mating rituals and courtship behavior of hummingbirds. * Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests. * Discuss the role of the female hummingbird in laying and incubating eggs. * Describe the development of hummingbird chicks and the role of both parents in providing care. VI. Threats to Hummingbirds and Conservation Efforts * Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations. * Describe the role of habitat conservation initiatives in protecting hummingbird habitats. * Explain the importance of creating hummingbird-friendly gardens and landscapes. * Discuss the efforts of organizations and individuals working to conserve hummingbird populations. VII. Conclusion * Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds. * Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures. |
Zusammenfassung
- Wenn Sie dem Modell eine Teileingabe zuweisen, schließt das Modell diese Eingabe anhand aller verfügbaren Beispiele oder Kontexte in dem Prompt ab.
- Es kann einfacher sein, das Modell fertig einzugeben, als die Aufgabe in natürlicher Sprache zu beschreiben.
- Durch Hinzufügen einer Teilantwort auf eine Eingabeaufforderung kann das Modell einem gewünschten Muster oder Format folgen.
Prompts in einfache Komponenten aufteilen
Bei Anwendungsfällen, die komplexe Prompts erfordern, können Sie das Modell bei der Bewältigung dieser Komplexität unterstützen, indem Sie Elemente in einfachere Komponenten unterteilen.
Anleitung zur Aufteilung
Anstatt mehrere Anweisungen in einem Prompt zu haben, erstellen Sie einen Prompt pro Anweisung. Sie können auswählen, welche Prompt basierend auf der Eingabe des Nutzers verarbeitet werden soll.
Prompts verketten
Bei komplexen Aufgaben, die mehrere aufeinanderfolgende Schritte umfassen, sollten Sie jeden Schritt zu einer Prompt machen und die Prompts in einer Sequenz verketten. Bei dieser sequenziellen Kette von Eingabeaufforderungen wird die Ausgabe einer Aufforderung in der -Sequenz zur Eingabe des nächsten Prompts wird. Die Ausgabe des letzten Prompts in der Sequenz ist die endgültige Ausgabe.Antworten aggregieren
Bei einer Aggregation werden verschiedene parallele Aufgaben an verschiedenen und aggregieren die Ergebnisse, um die endgültige Ausgabe zu erstellen. Sie können das Modell beispielsweise anweisen, eine Operation für den ersten Teil der Daten und eine weitere Operation für den und aggregieren die Ergebnisse.
Fazit
- Komplexe Anweisungen in eine Aufforderung für jede Anweisung unterteilen und entscheiden, welche je nach Eingabe des Nutzers.
- Teilen Sie mehrere sequenzielle Schritte in separate Prompts auf und verketten Sie sie so, dass die Ausgabe des vorherigen Prompts zur Eingabe des folgenden Prompts wird.
- Parallele Aufgaben aufteilen und die Antworten aggregieren, um die endgültige Ausgabe zu erstellen
Mit verschiedenen Parameterwerten experimentieren
Jeder Aufruf, den Sie an ein Modell senden, enthält Parameterwerte, die steuern, wie das Modell eine Antwort generiert. Das Modell kann für verschiedene Parameterwerte unterschiedliche Ergebnisse generieren. Experimentieren Sie mit verschiedenen Parameterwerten, um die besten Werte für die Aufgabe zu erhalten. Die für verschiedene Modelle verfügbaren Parameter können unterschiedlich sein. Die häufigsten Parameter sind:
- Max. Ausgabetokens
- Temperatur
- Top-K
- Top-P
Max. Ausgabetokens
Maximale Anzahl an Tokens, die in der Antwort generiert werden können. Ein Token besteht aus etwa vier Zeichen. 100 Tokens entsprechen etwa 20 Wörtern.Geben Sie kürzere Werte für kürzere Antworten und höhere Werte für längere Antworten an.
Temperatur
Die Temperatur wird für die Probenahme während der Antwortgenerierung verwendet. Dies passiert, wenntopP
und topK
angewendet werden. Die Temperatur bestimmt den Grad der Zufälligkeit bei der Tokenauswahl. Niedrigere Temperaturen eignen sich für Aufforderungen, die deterministischere und weniger offene oder kreative Reaktionen erfordern, während höhere Temperaturen zu vielfältigeren oder kreativen Ergebnissen führen können. Eine Temperatur von 0
ist deterministisch, d. h., die Antwort mit der höchsten Wahrscheinlichkeit wird immer ausgewählt.
Für die meisten Anwendungsfälle empfiehlt es sich, mit einer Temperatur von 0.2
zu beginnen. Wenn das Modell eine zu allgemeine oder zu kurze Antwort zurückgibt, oder wenn das Modell eine Fallback-Antwort ausgibt, versuchen Sie, die Temperatur zu erhöhen.
Top-K
Der Wert „Top-K“ ändert, wie das Modell Tokens für die Ausgabe auswählt. Ein „Top-K“ von1
bedeutet, dass das nächste ausgewählte Token unter den Tokens im Modell-Vokabular (auch als gierige Decodierung bezeichnet) am wahrscheinlichsten ist, während ein „Top-K“ von 3
bedeutet, dass das nächste Token mithilfe der Temperatur aus den drei wahrscheinlichsten Tokens ausgewählt wird.
Für jeden Tokenauswahlschritt werden die „Top-K“-Tokens mit den höchsten Wahrscheinlichkeiten abgetastet. Anschließend werden Tokens weiter auf der Grundlage von „Top-P“ gefiltert, wobei das endgültige Token mithilfe von Temperaturproben ausgewählt wird.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an. Der standardmäßige „Top-K“ ist 40
.
Top-P
Der Wert „Top-P“ ändert, wie das Modell Tokens für die Ausgabe auswählt. Die Tokens werden von den wahrscheinlichsten (siehe „Top-K“) bis zu den unwahrscheinlichsten Werten ausgewählt, bis die Summe ihrer Wahrscheinlichkeiten dem „Top-P“-Wert entspricht. Beispiel: Wenn die Tokens A, B und C eine Wahrscheinlichkeit von 0,3, 0,2 und 0,1 haben und der „Top-P“-Wert0.5
ist, wählt das Modell anhand der Temperatur entweder A oder B als das nächste Token und C als Kandidaten ausschließen.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an. Die Standardeinstellung von „Top-P“ ist 0.95
.
Strategien für Prompt-Iteration
Prompt-Design ist ein iterativer Prozess, der oft einige Iterationen erfordert, bevor Sie die durchgehend die gewünschte Antwort erhalten. In diesem Abschnitt finden Sie Anweisungen zu einigen Dingen, die Sie beim Iterieren Ihrer Prompts versuchen können.
Andere Form verwenden
Die Verwendung unterschiedlicher Wörter oder Formulierungen in Ihren Prompts liefert häufig unterschiedliche Antworten vom Modell, obwohl sie alle dieselbe Bedeutung haben. Wenn Sie nicht die erwarteten Ergebnisse von dem Prompt erhalten, versuchen Sie, ihn umzuformulieren.
Version 1: How do I bake a pie? Version 2: Suggest a recipe for a pie. Version 3: What's a good pie recipe? |
Zu einer analogen Aufgabe wechseln
Wenn Sie das Modell nicht erhalten können, um den Anweisungen für eine Aufgabe zu folgen, versuchen Sie, dies für eine entsprechende Aufgabe zu tun, die dasselbe Ergebnis erzielt.
In diesem Prompt wird das Modell angewiesen, ein Buch mithilfe vordefinierter Kategorien zu kategorisieren.
Which category does The Odyssey belong to: thriller sci-fi mythology biography The answer: mythology Explanations: The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The Odyssey is a work of mythology. |
Die Antwort ist korrekt, aber das Modell blieb nicht innerhalb der Grenzen der Optionen. Sie möchten auch, dass das Modell nur mit einer der Optionen antwortet und nicht mit einem ganzen Satz. In diesem Fall können Sie die Anweisungen als Multiple-Choice-Frage umformulieren und das Modell bitten, eine Option auszuwählen.
Multiple choice problem: Which of the following options describes the book The Odyssey? Options: - thriller - sci-fi - mythology - biography The answer is: mythology |
Reihenfolge der Prompt-Inhalte ändern
Die Reihenfolge des Inhalts in dem Prompt kann sich manchmal auf die Antwort auswirken. Ändern Sie die Inhaltsreihenfolge und prüfen Sie, wie sich dies auf die Antwort auswirkt.
Version 1: [examples] [context] [input] Version 2: [input] [examples] [context] Version 3: [examples] [input] [context]
Fallback-Antworten
Eine Fallback-Antwort ist eine Antwort, die vom Modell zurückgegeben wird, wenn entweder der Prompt oder die Antwort einen Sicherheitsfilter auslöst. Ein Beispiel für eine Fallback-Antwort ist: "Ich kann dir nicht helfen, da ich nur ein Sprachmodell habe."
Wenn das Modell mit einer Fallback-Antwort antwortet, versuchen Sie, die Temperatur zu erhöhen.
Was vermieden werden sollte
- Vermeiden Sie es, sich bei der Generierung sachlicher Informationen auf Modelle zu verlassen.
- Seien Sie vorsichtig bei mathematischen und logischen Problemen.
Nächste Schritte
- Nachdem Sie nun ein tieferes Verständnis für das Prompt-Design haben, versuchen Sie, Ihre eigenen eigene Prompts mit Google AI Studio erstellen.
- Weitere Informationen zu multimodalen Prompts finden Sie unter Prompts mit Mediendateien: