Chiến lược thiết kế câu lệnh

Trang này giới thiệu cho bạn một số chiến lược thiết kế lời nhắc chung mà bạn có thể sử dụng khi thiết kế câu lệnh. Mặc dù không có cách đúng hay sai khi thiết kế một câu lệnh, nhưng có những cách phổ biến mà bạn có thể sử dụng để tác động đến phản hồi của mô hình. Việc kiểm tra và đánh giá nghiêm ngặt vẫn được duy trì rất quan trọng để tối ưu hoá hiệu suất của mô hình.

Các mô hình ngôn ngữ lớn (LLM) được huấn luyện dựa trên một lượng lớn dữ liệu văn bản để học các mẫu đó và mối quan hệ giữa các đơn vị ngôn ngữ. Khi cung cấp một số văn bản (câu lệnh), các mô hình ngôn ngữ có thể dự đoán việc gì có thể xảy ra tiếp theo, giống như một công cụ tự động hoàn thành tinh vi. Do đó, khi Khi thiết kế câu lệnh, hãy xem xét nhiều yếu tố có thể ảnh hưởng đến những yếu tố mà mô hình dự đoán sẽ xuất hiện tiếp theo.

Cung cấp hướng dẫn rõ ràng và cụ thể

Việc đưa ra hướng dẫn cho mô hình về những việc cần làm là một cách hiệu quả để tuỳ chỉnh mô hình hành vi. Hãy đảm bảo rằng các hướng dẫn bạn cung cấp rõ ràng và cụ thể. Hướng dẫn có thể có dạng đơn giản như một danh sách các hướng dẫn từng bước hoặc phức tạp như vạch ra trải nghiệm người dùng và tư duy.

Xác định tác vụ cần thực hiện

Mô tả chi tiết tác vụ mà bạn muốn mô hình thực hiện. Tác vụ có thể đơn giản như danh sách hướng dẫn từng bước hoặc phức tạp như vạch ra trải nghiệm và tư duy của người dùng. Chiến lược phát hành đĩa đơn câu lệnh sau đây sẽ yêu cầu mô hình tóm tắt một khối văn bản:

Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.
  

Chỉ định mọi điều kiện ràng buộc

Chỉ định mọi quy tắc ràng buộc khi đọc lời nhắc hoặc tạo phản hồi. Bạn có thể biết mô hình những việc nên làm và không nên làm. Trong ví dụ trước, nội dung tóm tắt ngắn hơn bản gốc nhưng có thể bạn muốn phần tóm tắt ngắn hơn. Trong trường hợp này, bạn có thể chỉ định một quy tắc ràng buộc trong lời nhắc về thời lượng bạn muốn nội dung tóm tắt:

Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.
    

Xác định định dạng của phản hồi

Bạn cũng có thể đưa ra hướng dẫn nêu rõ định dạng của câu trả lời. Ví dụ: bạn có thể hỏi để câu trả lời được định dạng thành bảng, danh sách có dấu đầu dòng, quảng cáo chiêu hàng cô đọng, từ khoá, câu hoặc đoạn. Câu lệnh sau đây hướng dẫn mô hình này cung cấp các dấu đầu dòng về thông tin chính trong văn bản:

Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.
  

Tóm tắt

  • Đưa ra hướng dẫn cho các mô hình về việc cần làm.
  • Hãy làm cho các hướng dẫn rõ ràng và cụ thể.
  • Chỉ định mọi điều kiện ràng buộc hoặc yêu cầu về định dạng cho đầu ra.

Bao gồm các ví dụ về ảnh chụp nhanh

Bạn có thể đưa các ví dụ vào câu lệnh để mô hình thấy quy trình chuẩn xác. Chiến lược phát hành đĩa đơn mô hình cố gắng xác định các mẫu và mối quan hệ từ các ví dụ và áp dụng chúng khi tạo một phản hồi. Những câu lệnh có chứa một vài ví dụ được gọi là câu lệnh một vài lần. còn những câu lệnh không cung cấp ví dụ được gọi là lời nhắc 0 lần. Lời nhắc ít liên hệ thường dùng để điều chỉnh định dạng, cách diễn đạt, phạm vi hoặc quy luật chung của câu trả lời của mô hình. Sử dụng các ví dụ cụ thể và đa dạng để giúp mô hình này thu hẹp trọng tâm và tạo ra dữ liệu chính xác hơn kết quả.

Bạn nên luôn thêm các ví dụ ngắn gọn vào câu lệnh. Câu lệnh không dùng vài lần các ví dụ có thể kém hiệu quả hơn vì chúng cho mô hình biết cách áp dụng hướng dẫn. Ngang bằng trên thực tế, bạn có thể xoá hướng dẫn khỏi câu lệnh nếu ví dụ của bạn đủ rõ ràng trong việc cho thấy nhiệm vụ đang thực hiện.

Lời nhắc chụp ảnh 0 ảnh và chụp ít ảnh

Câu lệnh không cần thiết sau đây yêu cầu mô hình chọn cách giải thích phù hợp nhất.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1
  

Nếu trường hợp sử dụng của bạn đòi hỏi mô hình này tạo ra câu trả lời ngắn gọn, thì bạn có thể đưa ví dụ vào ưu tiên câu trả lời ngắn gọn.

Lời nhắc sau đây cung cấp 2 ví dụ thể hiện mức độ ưu tiên đối với những nội dung giải thích ngắn hơn. Ngang bằng thì bạn có thể thấy rằng các ví dụ đã hướng dẫn mô hình chọn cách giải thích ngắn hơn (Giải thích 2) trái ngược với cách giải thích dài hơn (Giải thích 1) giống như trước đây.

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation2
  

Tìm số lượng ví dụ tối ưu

Bạn có thể thử nghiệm với số lượng ví dụ để cung cấp trong câu lệnh cho những kết quả. Các mô hình như PaLM và Gemini thường có thể nhận ra các mẫu bằng một vài ví dụ, mặc dù bạn có thể cần thử nghiệm với số lượng ví dụ dẫn đến kết quả mong muốn. Đối với các mô hình đơn giản hơn như BERT, bạn có thể cần thêm ví dụ. Đồng thời, nếu bạn đưa vào quá nhiều ví dụ, mô hình có thể bắt đầu trang bị thêm câu trả lời cho các ví dụ.

Sử dụng ví dụ để hiển thị các mẫu thay vì phản mẫu

Việc dùng ví dụ để minh hoạ cho mô hình mà một mẫu cần tuân theo sẽ có hiệu quả hơn so với việc dùng ví dụ để hiển thị phản mẫu cần tránh cho mô hình.

Mẫu âm:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Mẫu tích cực:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Sử dụng định dạng nhất quán trong các ví dụ

Đảm bảo rằng cấu trúc và định dạng của các ví dụ chụp ảnh ngắn đều giống nhau để tránh nhận được câu trả lời với định dạng không mong muốn. Một trong những mục tiêu chính của việc thêm ví dụ ngắn gọn trong câu lệnh là hiển thị định dạng phản hồi cho mô hình. Do đó, điều cần thiết là đảm bảo tính nhất quán trên tất cả ví dụ, đặc biệt chú ý đến thẻ XML, khoảng trắng, dòng mới và ví dụ bộ chia.

Tóm tắt

  • Việc đưa các ví dụ về phản hồi bằng câu lệnh vào câu lệnh sẽ giúp mô hình này học cách phản hồi.
  • Đưa ra ví dụ về các mẫu nên làm theo thay vì ví dụ về các mẫu để để tránh.
  • Thử nghiệm với số lượng câu lệnh cần đưa vào. Tuỳ thuộc vào mô hình, có quá ít ví dụ không hiệu quả trong việc thay đổi hành vi của mô hình. Quá nhiều ví dụ khiến mô hình này quá tải.
  • Sử dụng định dạng nhất quán trong các ví dụ

Thêm thông tin theo bối cảnh

Bạn có thể thêm vào hướng dẫn câu lệnh và thông tin mà mô hình cần để giải quyết một thay vì giả định rằng mô hình có tất cả thông tin cần thiết. Ngữ cảnh này giúp mô hình hiểu được các hạn chế và chi tiết về nội dung bạn đang yêu cầu làm.

Ví dụ sau đây yêu cầu mô hình đưa ra hướng dẫn khắc phục sự cố cho bộ định tuyến:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.


2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.


3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.


4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).


5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.


6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.


7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.


8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.
  

Phản hồi có vẻ giống như thông tin khắc phục sự cố chung không dành riêng cho bộ định tuyến hoặc trạng thái của các đèn chỉ báo LED.

Để tuỳ chỉnh phản hồi cho bộ định tuyến cụ thể, bạn có thể thêm vào lời nhắc của bộ định tuyến hướng dẫn khắc phục sự cố làm ngữ cảnh để tham khảo khi cung cấp phản hồi.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Tóm tắt

  • Đưa thông tin (ngữ cảnh) vào câu lệnh mà bạn muốn mô hình sử dụng khi tạo một của bạn.
  • Đưa ra hướng dẫn cho mô hình về cách sử dụng thông tin theo bối cảnh.

Thêm tiền tố

Tiền tố là một từ hoặc cụm từ mà bạn thêm vào nội dung câu lệnh có thể phục vụ một số mục đích, tuỳ thuộc vào nơi bạn đặt tiền tố:

  • Tiền tố đầu vào: Thêm một tiền tố vào tín hiệu đầu vào có ý nghĩa về mặt ngữ nghĩa các phần của đầu vào vào mô hình. Ví dụ: tiền tố "Tiếng Anh": và "Tiếng Pháp:" phân cách hai ngôn ngữ khác nhau.
  • Tiền tố đầu ra: Mặc dù đầu ra là do mô hình tạo ra, nhưng bạn có thể thêm một tiền tố cho đầu ra trong lời nhắc. Tiền tố đầu ra cung cấp cho mô hình thông tin về nội dung được mong đợi là phản hồi. Ví dụ: tiền tố đầu ra "JSON:" các tín hiệu cho mô hình mà đầu ra phải ở định dạng JSON.
  • Tiền tố ví dụ: Trong các câu lệnh vài lần, việc thêm tiền tố vào ví dụ sẽ cung cấp các nhãn mà mô hình có thể sử dụng khi tạo đầu ra, giúp phân tích cú pháp đầu ra dễ dàng hơn nội dung.

Trong ví dụ sau: "Văn bản:" là tiền tố nhập và "Câu trả lời là:" là kết quả đầu ra tiền tố.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
large
  

Cho phép mô hình hoàn tất dữ liệu đầu vào một phần

Các mô hình ngôn ngữ tạo sinh hoạt động giống như công cụ tự động hoàn thành nâng cao. Khi bạn cung cấp một phần nội dung, mô hình có thể cung cấp phần còn lại của nội dung hoặc những gì mô hình cho là phần tiếp theo của nội dung đó làm một phản hồi. Trong quá trình đó, nếu bạn thêm bất kỳ ví dụ hoặc ngữ cảnh nào, mô hình có thể lấy và cân nhắc các ví dụ hoặc bối cảnh đó.

Ví dụ sau đây cung cấp một câu lệnh có hướng dẫn và dữ liệu đầu vào về thực thể:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```
  

Mặc dù mô hình đã hoạt động như được nhắc nhưng đôi khi việc viết ra hướng dẫn bằng ngôn ngữ tự nhiên có thể là không dễ dàng và cũng ảnh hưởng rất nhiều đến việc diễn giải mô hình. Ví dụ: thực đơn nhà hàng có thể chứa nhiều mục. Để giảm kích thước của phản hồi JSON, bạn có thể muốn bỏ qua các mục chưa được đặt hàng. Trong trường hợp này, bạn có thể đưa ra ví dụ cùng tiền tố phản hồi, đồng thời để mô hình hoàn thành:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```
  

Chú ý đến cách "cheeseburger" đã bị loại trừ khỏi dữ liệu đầu ra vì nó không nằm trong đơn đặt hàng.

Nhắc mô hình định dạng phản hồi

Chiến lược hoàn thành cũng có thể giúp định dạng câu trả lời. Ví dụ sau nhắc lệnh mẫu để tạo dàn ý cho bài tiểu luận:

Create an outline for an essay about hummingbirds.
  
I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.
  

Câu lệnh chưa chỉ định định dạng cho bố cục và mô hình đã chọn một định dạng cho bạn. Để tải để trả về một bố cục ở một định dạng cụ thể, bạn có thể thêm văn bản thể hiện điểm bắt đầu của phác thảo và để mô hình hoàn tất dựa trên mẫu mà bạn đã tạo.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.
  

Tóm tắt

  • Nếu bạn cung cấp cho mô hình giá trị đầu vào một phần, mô hình sẽ hoàn tất dữ liệu đầu vào đó dựa trên bất kỳ dữ liệu nào hiện có ví dụ hoặc ngữ cảnh trong câu lệnh.
  • Việc mô hình hoàn tất dữ liệu đầu vào đôi khi có thể dễ dàng hơn việc mô tả công việc một cách tự nhiên ngôn ngữ.
  • Việc thêm một phần câu trả lời vào câu lệnh có thể hướng dẫn mô hình làm theo mẫu mong muốn hoặc .

Chia nhỏ lời nhắc thành các thành phần đơn giản

Đối với các trường hợp sử dụng cần đến câu lệnh phức tạp, bạn có thể giúp mô hình quản lý sự phức tạp này bằng cách chia nhỏ mọi thứ thành các thành phần đơn giản hơn.

Hướng dẫn phân tích

Thay vì sử dụng nhiều hướng dẫn trong một câu lệnh, hãy tạo một câu lệnh cho mỗi câu lệnh. Bạn có thể chọn lời nhắc để xử lý dựa trên thông tin mà người dùng nhập.

Lời nhắc theo chuỗi

Đối với các công việc phức tạp gồm nhiều bước tuần tự, hãy biến mỗi bước thành một câu lệnh và liên kết chuỗi các câu lệnh cùng lúc theo một trình tự. Trong chuỗi lời nhắc tuần tự này, kết quả của một câu lệnh trong chuỗi sẽ trở thành thông tin đầu vào của câu lệnh tiếp theo. Kết quả của câu lệnh cuối cùng trong trình tự là đầu ra cuối cùng.

Câu trả lời tổng hợp

Tổng hợp là khi bạn muốn thực hiện các tác vụ song song khác nhau trên các phần khác nhau của dữ liệu và tổng hợp kết quả để đưa ra đầu ra cuối cùng. Ví dụ: bạn có thể yêu cầu mô hình thực hiện một thao tác trên phần đầu tiên của dữ liệu, thực hiện một thao tác khác trên phần còn lại của dữ liệu và tổng hợp kết quả.

Tóm tắt

  • Chia nhỏ các hướng dẫn phức tạp thành một câu lệnh cho mỗi hướng dẫn và quyết định nên dùng câu lệnh nào dựa trên hoạt động đầu vào của người dùng.
  • Chia nhiều bước tuần tự thành các câu lệnh riêng biệt và liên kết chúng sao cho kết quả xuất ra ở câu lệnh trước đó sẽ trở thành thông tin đầu vào của câu lệnh sau.
  • Chia nhỏ các nhiệm vụ song song và tổng hợp các câu trả lời để có kết quả cuối cùng.

Thử nghiệm với các giá trị thông số khác nhau

Mỗi lệnh gọi bạn gửi đến một mô hình bao gồm các giá trị thông số kiểm soát cách mô hình tạo ra một phản hồi. Mô hình có thể tạo ra kết quả khác nhau cho các giá trị thông số khác nhau. Thử nghiệm với các giá trị thông số khác nhau để nhận được giá trị tốt nhất cho tác vụ. Các tham số có sẵn cho các mô hình khác nhau có thể khác nhau. Sau đây là các tham số phổ biến nhất:

  • Mã thông báo đầu ra tối đa
  • Nhiệt độ
  • Hàng đầu
  • Hàng đầu

Mã thông báo đầu ra tối đa

Số lượng mã thông báo tối đa có thể tạo trong phản hồi. Một mã thông báo là khoảng 4 ký tự. 100 mã thông báo tương ứng với khoảng 20 từ.

Hãy chỉ định giá trị thấp hơn cho câu trả lời ngắn hơn và giá trị cao hơn cho câu trả lời dài hơn phản hồi.

Nhiệt độ

Nhiệt độ được dùng để lấy mẫu trong quá trình tạo phản hồi, xảy ra khi áp dụng topPtopK. Điều khiển nhiệt độ mức độ ngẫu nhiên trong việc lựa chọn mã thông báo. Nhiệt độ thấp hơn có lợi cho các câu lệnh yêu cầu nội dung xác định và ít mở hoặc sáng tạo hơn phản ứng của bạn, còn nhiệt độ cao hơn có thể giúp kết quả. Nhiệt độ 0 có tính xác định, có nghĩa là phản hồi có xác suất cao nhất luôn được chọn.

Đối với hầu hết các trường hợp sử dụng, hãy thử bắt đầu ở mức nhiệt độ 0.2. Nếu mô hình trả về phản hồi quá chung chung, quá ngắn hoặc mô hình đưa ra phản hồi dự phòng, hãy thử tăng nhiệt độ.

Hàng đầu

Top-K thay đổi cách mô hình chọn mã thông báo cho đầu ra. K hàng đầu trong số 1 có nghĩa là mã thông báo được chọn tiếp theo có nhiều khả năng nhất trong số tất cả mã trong từ vựng của mô hình (còn được gọi là giải mã tham lam), trong khi phần đầu 3 có nghĩa là mã thông báo tiếp theo được chọn trong số ba mã thông báo mã thông báo có thể có bằng cách sử dụng nhiệt độ.

Đối với mỗi bước chọn mã thông báo, những mã thông báo hàng đầu có giá trị cao nhất để lấy mẫu xác suất. Sau đó, các mã thông báo được lọc thêm dựa trên P hàng đầu với mã thông báo cuối cùng được chọn bằng cách lấy mẫu nhiệt độ.

Hãy chỉ định một giá trị thấp hơn để có ít câu trả lời ngẫu nhiên hơn và một giá trị cao hơn để có nhiều kết quả hơn câu trả lời ngẫu nhiên. K hàng đầu mặc định là 40.

Hàng đầu

P hàng đầu thay đổi cách mô hình chọn mã thông báo cho đầu ra. Đã chọn mã thông báo từ giá trị cao nhất (xem giá trị hàng đầu) đến giá trị có khả năng xảy ra ít nhất cho đến tổng xác suất của chúng bằng giá trị P hàng đầu. Ví dụ: nếu mã thông báo A, B và C có xác suất là 0,3, 0,2 và 0,1 và giá trị P cao nhất là 0.5, thì mô hình sẽ chọn A hoặc B làm mã thông báo tiếp theo bằng cách sử dụng nhiệt độ và loại trừ C làm ứng cử viên.

Hãy chỉ định một giá trị thấp hơn để có ít câu trả lời ngẫu nhiên hơn và một giá trị cao hơn để có nhiều kết quả hơn câu trả lời ngẫu nhiên. P hàng đầu mặc định là 0.95.

Chiến lược lặp lại lời nhắc

Thiết kế câu lệnh là một quá trình lặp lại, thường yêu cầu vài lần lặp lại trước khi bạn nhận được một cách nhất quán. Phần này cung cấp hướng dẫn về một số việc bạn có thể thử khi lặp lại trên các câu lệnh của bạn.

Dùng những cách diễn đạt khác nhau

Việc sử dụng các từ hoặc cụm từ khác nhau trong câu lệnh của bạn thường mang lại các câu trả lời khác nhau so với mô hình mặc dù tất cả các cụm từ này đều có ý nghĩa giống nhau. Nếu bạn không nhận được kết quả như mong đợi từ hãy thử diễn đạt lại.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Chuyển sang một công việc tương tự

Nếu bạn không thể khiến mô hình làm theo hướng dẫn cho một nhiệm vụ, hãy thử đưa ra hướng dẫn cho mô hình đó một tác vụ tương tự giúp đạt được kết quả tương tự.

Câu lệnh này sẽ yêu cầu mô hình phân loại một cuốn sách bằng cách sử dụng các danh mục được xác định trước.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.
  

Câu trả lời chính xác, nhưng mô hình không nằm trong giới hạn của các tuỳ chọn. Bạn cũng muốn xây dựng mô hình để chỉ trả lời bằng một trong các lựa chọn thay vì trong một câu đầy đủ. Trong trường hợp này, bạn có thể diễn đạt lại hướng dẫn dưới dạng câu hỏi trắc nghiệm và yêu cầu mô hình chọn một .

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The answer is: mythology
  

Thay đổi thứ tự của nội dung lời nhắc

Thứ tự của nội dung trong câu lệnh đôi khi có thể ảnh hưởng đến câu trả lời. Hãy thử thay đổi thứ tự nội dung và xem thứ tự đó ảnh hưởng như thế nào đến phản hồi.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Phản hồi dự phòng

Phản hồi dự phòng là phản hồi được mô hình trả về khi lời nhắc hoặc phản hồi kích hoạt bộ lọc an toàn. Ví dụ về phản hồi dự phòng là "Tôi không thể trợ giúp về vấn đề đó, vì Tôi chỉ là một người mẫu ngôn ngữ".

Nếu mô hình phản hồi bằng phản hồi dự phòng, hãy thử tăng nhiệt độ.

Những điều nên tránh

  • Tránh dựa vào các mô hình để tạo thông tin thực tế.
  • Hãy cẩn thận khi dùng các bài toán về toán và logic.

Các bước tiếp theo