Strategi desain prompt

Halaman ini memperkenalkan Anda pada beberapa strategi {i>prompt design<i} umum yang dapat Anda gunakan saat mendesain prompt. Meskipun tidak ada cara yang benar atau salah untuk mendesain prompt, ada strategi umum yang dapat Anda gunakan untuk memengaruhi respons model. Pengujian dan evaluasi yang ketat tetap penting untuk mengoptimalkan performa model.

Model bahasa besar (LLM) dilatih menggunakan sejumlah besar data teks untuk mempelajari pola dan hubungan antara unit bahasa. Saat diberi beberapa teks (prompt), model bahasa dapat memprediksi apa yang akan terjadi selanjutnya, misalnya alat pelengkapan otomatis yang canggih. Oleh karena itu, ketika mendesain prompt, mempertimbangkan berbagai faktor yang dapat memengaruhi apa yang diprediksi model berikutnya.

Berikan petunjuk yang jelas dan spesifik

Memberi petunjuk kepada model tentang apa yang harus dilakukan adalah cara yang efektif dan efisien untuk menyesuaikan model perilaku model. Pastikan petunjuk yang Anda berikan jelas dan spesifik. Instruksi dapat berupa sederhana seperti daftar petunjuk langkah demi langkah atau serumit pemetaan pengalaman pengguna dan pola pikir.

Menentukan tugas yang akan dilakukan

Jelaskan dengan mendetail tugas yang Anda inginkan untuk dijalankan model. Tugas ini bisa sesederhana langkah demi langkah instruksi atau serumit pemetaan pengalaman dan pola pikir pengguna. Tujuan prompt berikut ini memberi tahu model untuk meringkas blok teks:

Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.
  

Menentukan batasan

Tentukan batasan apa pun untuk membaca perintah atau membuat respons. Anda dapat memberitahu model apa yang harus dilakukan dan tidak boleh dilakukan. Dari contoh sebelumnya, ringkasannya lebih pendek dari aslinya teks, tapi mungkin Anda ingin ringkasannya lebih pendek. Dalam kasus ini, Anda dapat menentukan batasan prompt tentang berapa lama Anda ingin ringkasannya:

Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.
    

Menentukan format respons

Anda juga dapat memberikan petunjuk yang menentukan format respons. Misalnya, Anda dapat menanyakan jawaban diformat dalam bentuk tabel, daftar berbutir, {i>elevator pitch<i}, kata kunci, kalimat, atau yang sesuai. Perintah berikut menginstruksikan model untuk memberikan poin-poin informasi penting dalam teks:

Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.
  

Ringkasan

  • Berikan petunjuk kepada model tentang tindakan yang harus dilakukan.
  • Buat petunjuk yang jelas dan spesifik.
  • Tentukan batasan atau persyaratan pemformatan untuk output.

Sertakan contoh few-shot

Anda dapat menyertakan contoh dalam perintah yang menunjukkan kepada model seperti apa cara melakukannya dengan benar. Tujuan model berupaya mengidentifikasi pola dan hubungan dari contoh-contoh tersebut serta menerapkannya saat menghasilkan respons. Prompt yang berisi beberapa contoh disebut prompt few-shot. sedangkan perintah yang tidak memberikan contoh disebut prompt zero-shot. Beberapa prompt pilihan sering digunakan untuk mengatur pemformatan, susunan kata, cakupan, atau pola umum respons model. Menggunakan contoh yang spesifik dan bervariasi untuk membantu model mempersempit fokusnya dan memberikan hasil yang lebih akurat hasil pengujian tersebut.

Sebaiknya selalu sertakan beberapa contoh foto dalam perintah Anda. Perintah tanpa few-shot cenderung kurang efektif karena menunjukkan cara menerapkan instruksi kepada model. Di beberapa yang sebenarnya, Anda dapat menghapus instruksi dari {i>prompt<i} jika contoh Anda cukup jelas dalam menunjukkan tugas yang ada.

Prompt zero-shot vs few-shot

Petunjuk zero-shot berikut meminta model untuk memilih penjelasan terbaik.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1
  

Jika kasus penggunaan Anda mengharuskan model menghasilkan respons yang ringkas, Anda dapat menyertakan contoh dalam prompt yang memberikan preferensi untuk respons yang ringkas.

Perintah berikut memberikan dua contoh yang menunjukkan preferensi terhadap penjelasan yang lebih pendek. Di beberapa responsnya, Anda dapat melihat bahwa contoh memandu model untuk memilih penjelasan yang lebih pendek (Penjelasan2) bertentangan dengan penjelasan yang lebih panjang (Penjelasan1) seperti yang dilakukan sebelumnya.

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation2
  

Temukan jumlah contoh yang optimal

Anda dapat bereksperimen dengan jumlah contoh yang akan diberikan dalam prompt untuk hasil pengujian tersebut. Model seperti PaLM dan Gemini sering kali dapat memahami pola menggunakan beberapa contoh, meskipun mungkin perlu bereksperimen dengan jumlah contoh yang mengarah pada hasil yang diinginkan. Untuk model yang lebih sederhana seperti BERT, Anda mungkin perlu lebih banyak contoh. Pada saat yang sama, jika Anda menyertakan terlalu banyak contoh, model mungkin mulai overfit respons terhadap contoh.

Gunakan contoh untuk menampilkan pola, bukan antipola

Menggunakan contoh untuk menunjukkan pola yang diikuti kepada model lebih efektif daripada menggunakan contoh untuk menunjukkan anti-pola yang harus dihindari kepada model.

Pola negatif:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Pola positif:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Gunakan pemformatan yang konsisten di seluruh contoh

Pastikan struktur dan pemformatan contoh few-shot sama untuk menghindari respons dengan format yang tidak diinginkan. Salah satu tujuan utama menambahkan contoh few-shot dalam prompt adalah untuk menunjukkan format respons kepada model. Oleh karena itu, penting untuk memastikan format yang konsisten di seluruh terutama memperhatikan tag XML, spasi kosong, baris baru, dan Splitter.

Ringkasan

  • Menyertakan contoh respons perintah dalam perintah akan membantu model mempelajari cara merespons.
  • Berikan contoh pola untuk diikuti, bukan contoh pola, hindari.
  • Lakukan eksperimen dengan sejumlah prompt yang akan disertakan. Tergantung pada modelnya, terlalu sedikit contoh tidak efektif dalam mengubah perilaku model. Terlalu banyak contoh menyebabkan model menjadi terlalu pas.
  • Gunakan pemformatan yang konsisten di seluruh contoh

Tambahkan informasi kontekstual

Anda dapat memasukkan informasi dan petunjuk prompt yang diperlukan model untuk menyelesaikan masalah alih-alih mengasumsikan bahwa model memiliki semua informasi yang diperlukan. Kontekstual ini informasi membantu model memahami batasan dan detail dari apa yang Anda minta fungsi tersebut.

Contoh berikut meminta model untuk memberikan panduan pemecahan masalah untuk router:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.


2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.


3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.


4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).


5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.


6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.


7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.


8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.
  

Responsnya terlihat seperti informasi pemecahan masalah umum yang tidak spesifik untuk {i>router<i} atau status lampu indikator LED.

Untuk menyesuaikan respons bagi router tertentu, Anda bisa menambahkan panduan pemecahan masalah sebagai konteks untuk digunakan saat memberikan respons.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Ringkasan

  • Sertakan informasi (konteks) dalam perintah yang akan digunakan oleh model saat membuat yang dihasilkan.
  • Berikan petunjuk kepada model tentang cara menggunakan informasi kontekstual.

Tambahkan awalan

Awalan adalah kata atau frasa yang Anda tambahkan ke konten perintah yang memiliki beberapa tujuan, tergantung pada tempat Anda memasukkan awalan:

  • Awalan input: Menambahkan awalan ke sinyal input yang bermakna secara semantik input ke model. Misalnya, awalan "Indonesia": dan "Prancis:" mendemarkasi dua bahasa yang berbeda.
  • Awalan output: Meskipun output dihasilkan oleh model, Anda dapat menambahkan awalan untuk output dalam prompt. Awalan output memberikan informasi kepada model tentang yang diharapkan sebagai respons. Misalnya, awalan output "JSON:" memberi sinyal ke model bahwa output harus dalam format JSON.
  • Contoh awalan: Dalam prompt few-shot, menambahkan awalan ke contoh akan memberikan label yang dapat digunakan model saat menghasilkan output, yang memudahkan penguraian output saat ini.

Pada contoh berikut, "Text:" adalah awalan input dan "Jawabannya adalah:" adalah output-nya .

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
large
  

Biarkan model menyelesaikan input parsial

Model bahasa generatif berfungsi seperti alat pelengkapan otomatis canggih. Bila Anda memberikan sebagian konten tambahan, model dapat menyediakan konten lainnya atau yang dianggapnya merupakan kelanjutan dari konten sebagai respons. Saat melakukannya, jika Anda menyertakan contoh atau konteks, model dapat mengambil contoh atau konteks tersebut.

Contoh berikut memberikan perintah dengan instruksi dan input entity:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```
  

Meskipun model melakukan apa yang diminta, menulis instruksi dalam bahasa alami terkadang bisa sulit dilakukan dan akan sangat memengaruhi penafsiran model. Misalnya, menu restoran mungkin berisi banyak item. Untuk mengurangi ukuran respons JSON, Anda mungkin ingin menghilangkan item yang tidak dipesan. Dalam hal ini, Anda dapat memberikan contoh dan awalan respons dan membiarkan model menyelesaikannya:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```
  

Perhatikan bagaimana "{i>cheeseburger<i}" dikecualikan dari {i>output<i} karena bukan merupakan bagian dari pesanan.

Prompt model untuk memformat responsnya

Strategi penyelesaian juga dapat membantu memformat respons. Contoh berikut meminta untuk membuat garis besar esai:

Create an outline for an essay about hummingbirds.
  
I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.
  

Perintah tidak menentukan format untuk struktur dan model memilih format untuk Anda. Untuk mendapatkan untuk mengembalikan garis batas dalam format tertentu, Anda dapat menambahkan teks yang garis batas dan biarkan model menyelesaikannya berdasarkan pola yang Anda mulai.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.
  

Ringkasan

  • Jika Anda memberi model input parsial, model akan menyelesaikan input tersebut berdasarkan input yang tersedia atau konteks dalam prompt.
  • Meminta model untuk menyelesaikan input terkadang lebih mudah daripada menjelaskan tugas secara natural di bahasa target.
  • Menambahkan jawaban sebagian ke perintah dapat memandu model untuk mengikuti pola yang diinginkan atau format font.

Uraikan perintah menjadi komponen sederhana

Untuk kasus penggunaan yang memerlukan prompt kompleks, Anda dapat membantu model mengelola kompleksitas ini dengan memecah sesuatu menjadi komponen yang lebih sederhana.

Perincian petunjuk

Daripada memiliki banyak instruksi dalam satu prompt, buatlah satu prompt per instruksi. Anda dapat memilih prompt mana yang akan diproses berdasarkan input pengguna.

Perintah berantai

Untuk tugas kompleks yang melibatkan beberapa langkah berurutan, jadikan setiap langkah sebagai perintah dan rantai prompt bersama-sama secara berurutan. Dalam rantai prompt berurutan ini, output dari satu prompt di menjadi input dari prompt berikutnya. Output dari perintah terakhir dalam urutan ini adalah output akhir.

Respons gabungan

Agregasi adalah saat Anda ingin melakukan tugas paralel yang berbeda di berbagai bagian data dan menggabungkan hasilnya untuk menghasilkan {i>output<i} akhir. Misalnya, Anda dapat memerintahkan model untuk melakukan satu operasi pada bagian pertama data, melakukan operasi lain pada bagian data dan menggabungkan hasilnya.

Ringkasan

  • Uraikan instruksi yang kompleks menjadi sebuah {i>prompt<i} (ide) untuk setiap instruksi dan putuskan {i>prompt<i} mana yang diterapkan berdasarkan input pengguna.
  • Uraikan beberapa langkah yang berurutan menjadi beberapa perintah terpisah dan gabungkan sedemikian rupa sehingga output pada prompt sebelumnya akan menjadi input dari prompt berikut.
  • Uraikan tugas paralel dan gabungkan respons untuk menghasilkan output akhir.

Buat eksperimen dengan berbagai parameter value

Tiap panggilan yang Anda kirim ke model akan menyertakan parameter value yang mengontrol cara model membuat respons. Model ini dapat membuat hasil yang berbeda untuk parameter value yang berbeda. Bereksperimen dengan parameter value yang berbeda untuk mendapatkan nilai terbaik untuk tugas tersebut. Parameter yang tersedia untuk dan mungkin berbeda. Parameter yang paling umum adalah sebagai berikut:

  • Token output maks
  • Suhu
  • Top-K
  • Top-P

Token output maks

Jumlah maksimum token yang dapat dibuat dalam respons. Token terdiri dari sekitar empat karakter. 100 token setara dengan sekitar 20 kata.

Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang.

Suhu

Suhu digunakan untuk pengambilan sampel selama pembuatan respons, yang terjadi saat topP dan topK diterapkan. Suhu mengontrol tingkat keacakan dalam pemilihan token. Suhu yang lebih rendah cocok untuk perintah yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan suhu yang lebih tinggi dapat memberikan hasil yang lebih beragam atau kreatif. Suhu 0 bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih.

Untuk sebagian besar kasus penggunaan, coba mulai dengan suhu 0.2. Jika model menampilkan respons yang terlalu umum, terlalu pendek, atau model memberikan respons fallback, coba tingkatkan suhunya.

Top-K

Top-K mengubah cara model memilih token untuk output. Top-K 1 berarti token yang dipilih berikutnya adalah yang paling mungkin di antara semua token dalam kosakata model (juga disebut decoding greedy), sedangkan top-K 3 berarti token berikutnya dipilih di antara tiga token yang paling mungkin dengan menggunakan suhu.

Untuk setiap langkah pemilihan token, token top-K dengan probabilitas tertinggi akan diambil sampelnya. Kemudian token akan difilter lebih lanjut berdasarkan top-P dengan token akhir yang dipilih menggunakan pengambilan sampel suhu.

Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Top-K default adalah 40.

Top-P

Top-P mengubah cara model memilih token untuk output. Token dipilih dari yang paling mungkin (lihat top-K) hingga yang paling tidak mungkin sampai jumlah probabilitasnya sama dengan nilai top-P. Misalnya, jika token A, B, dan C memiliki probabilitas 0,3, 0,2, dan 0,1 dengan nilai top-P 0.5, model akan memilih A atau B sebagai token berikutnya dengan menggunakan suhu dan mengecualikan C sebagai kandidat.

Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Top-P default adalah 0.95.

Strategi iterasi prompt

Prompt Design adalah proses berulang yang sering kali memerlukan beberapa iterasi sebelum Anda mendapatkan respons yang diinginkan secara konsisten. Bagian ini memberikan panduan tentang beberapa hal yang dapat Anda coba saat melakukan iterasi pada perintah Anda.

Gunakan frasa yang berbeda

Penggunaan kata atau frasa yang berbeda dalam perintah Anda sering kali menghasilkan respons yang berbeda dengan model meskipun mereka semua memiliki arti yang sama. Jika Anda tidak mendapatkan hasil yang diharapkan dari , coba susun ulang kata-katanya.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Beralih ke tugas analog

Jika Anda tidak bisa membuat model mengikuti instruksi Anda untuk tugas, coba berikan instruksi untuk tugas analog yang mencapai hasil yang sama.

Dialog ini memberi tahu model untuk mengategorikan buku dengan menggunakan kategori yang telah ditentukan.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.
  

Respons benar, tetapi model tidak berada dalam batas opsi. Anda juga ingin membuat model untuk merespons dengan salah satu opsi saja, bukan dalam kalimat lengkap. Dalam kasus ini, Anda dapat menyusun ulang instruksi sebagai pertanyaan pilihan ganda dan meminta model untuk memilih sebelumnya.

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The answer is: mythology
  

Mengubah urutan konten prompt

Urutan konten dalam prompt terkadang dapat memengaruhi respons. Coba ubah urutan konten dan melihat bagaimana hal itu memengaruhi respons.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Respons penggantian

Respons fallback adalah respons yang dikembalikan oleh model saat perintah atau respons akan memicu filter keamanan. Contoh respons penggantian adalah “Saya tidak bisa membantu, Saya hanya model bahasa."

Jika model merespons dengan respons penggantian, coba tingkatkan suhu.

Hal yang perlu dihindari

  • Hindari mengandalkan model untuk menghasilkan informasi faktual.
  • Gunakan dengan hati-hati saat mengerjakan soal matematika dan logika.

Langkah berikutnya