Chiến lược thiết kế câu lệnh

Trang này giới thiệu cho bạn một số chiến lược thiết kế lời nhắc chung mà bạn có thể sử dụng khi thiết kế lời nhắc. Mặc dù không có cách đúng hay sai nào để thiết kế câu lệnh, nhưng bạn có thể sử dụng các chiến lược phổ biến để tác động đến phản hồi của mô hình. Việc kiểm thử và đánh giá nghiêm ngặt vẫn đóng vai trò quan trọng để tối ưu hoá hiệu suất của mô hình.

Các mô hình ngôn ngữ lớn (LLM) được huấn luyện trên một lượng lớn dữ liệu văn bản để tìm hiểu các mẫu và mối quan hệ giữa các đơn vị ngôn ngữ. Khi được cung cấp một số văn bản (lời nhắc), các mô hình ngôn ngữ có thể dự đoán điều gì có thể xảy ra tiếp theo, chẳng hạn như một công cụ tự động hoàn thành tinh vi. Do đó, khi thiết kế lời nhắc, hãy cân nhắc các yếu tố có thể ảnh hưởng đến nội dung mô hình dự đoán tiếp theo.

Cung cấp hướng dẫn rõ ràng và cụ thể

Việc đưa ra hướng dẫn cho mô hình về những việc cần làm là cách hiệu quả để tuỳ chỉnh hành vi của mô hình. Hãy đảm bảo rằng hướng dẫn bạn đưa ra rõ ràng và cụ thể. Hướng dẫn có thể đơn giản như một danh sách hướng dẫn từng bước hoặc phức tạp như việc chỉ ra trải nghiệm và tư duy của người dùng.

Xác định tác vụ cần thực hiện

Mô tả chi tiết về nhiệm vụ mà bạn muốn mô hình thực hiện. Nhiệm vụ có thể đơn giản như một danh sách hướng dẫn từng bước hoặc phức tạp như vạch ra trải nghiệm và tư duy của người dùng. Câu lệnh sau đây yêu cầu mô hình tóm tắt một khối văn bản:

Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.
  

Chỉ định mọi quy tắc ràng buộc

Chỉ định mọi quy tắc ràng buộc đối với việc đọc câu lệnh hoặc tạo phản hồi. Bạn có thể cho mô hình biết việc nên làm và không nên làm. Trong ví dụ trước, nội dung tóm tắt sẽ ngắn hơn văn bản gốc, nhưng có thể bạn muốn phần tóm tắt ngắn hơn. Trong trường hợp này, bạn có thể chỉ định một quy tắc ràng buộc trong lời nhắc về thời lượng bạn muốn bản tóm tắt:

Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.
    

Xác định định dạng của phản hồi

Bạn cũng có thể đưa ra hướng dẫn chỉ định định dạng của câu trả lời. Ví dụ: bạn có thể yêu cầu định dạng câu trả lời dưới dạng bảng, danh sách có dấu đầu dòng, quảng cáo chiêu hàng ngắn gọn, từ khoá, câu hoặc đoạn. Lời nhắc sau đây hướng dẫn mô hình cung cấp các dấu đầu dòng cho thông tin chính trong văn bản:

Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  
- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.
  

Tóm tắt

  • Đưa ra cho các mô hình hướng dẫn về những việc cần làm.
  • Làm cho các hướng dẫn rõ ràng và cụ thể.
  • Chỉ định mọi quy tắc ràng buộc hoặc yêu cầu về định dạng cho đầu ra.

Thêm ví dụ về một vài bức ảnh

Bạn có thể đưa các ví dụ vào câu lệnh để cho mô hình thấy cách xử lý phù hợp. Mô hình này cố gắng xác định các mẫu và mối quan hệ từ các ví dụ rồi áp dụng chúng khi tạo ra phản hồi. Lời nhắc có chứa một vài ví dụ được gọi là lời nhắc vài lần kích hoạt, trong khi lời nhắc không cung cấp ví dụ sẽ được gọi là lời nhắc không tiến hành. Lời nhắc chỉ vài lần thường được dùng để điều chỉnh định dạng, cách diễn đạt, phạm vi hoặc cách tạo mẫu chung của phản hồi của mô hình. Sử dụng các ví dụ cụ thể và đa dạng để giúp mô hình thu hẹp tiêu điểm và tạo ra kết quả chính xác hơn.

Bạn nên luôn đưa các ví dụ về một vài cảnh vào câu lệnh của bạn. Những câu lệnh không có ví dụ về vài ảnh có thể kém hiệu quả hơn, vì các câu lệnh này chỉ cho mô hình cách áp dụng hướng dẫn. Trên thực tế, bạn có thể xoá hướng dẫn khỏi câu lệnh nếu các ví dụ của bạn đủ rõ ràng trong việc cho thấy nhiệm vụ đang thực hiện.

Lời nhắc tự chụp hoặc ảnh vài lần

Câu lệnh sau đây cho phép chụp không tiến hành yêu cầu mô hình chọn cách giải thích tốt nhất.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1
  

Nếu trường hợp sử dụng của bạn yêu cầu mô hình tạo câu trả lời ngắn gọn, thì bạn có thể đưa các ví dụ vào câu lệnh để ưu tiên câu trả lời ngắn gọn.

Câu lệnh sau đây cung cấp hai ví dụ ưu tiên những nội dung giải thích ngắn hơn. Trong phản hồi, bạn có thể thấy các ví dụ hướng dẫn mô hình chọn nội dung giải thích ngắn hơn (Giải thích 2) thay vì nội dung giải thích dài hơn (Giải thích 1) như trước đây.

Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation2
  

Tìm số lượng ví dụ tối ưu

Bạn có thể thử nghiệm với số lượng ví dụ để cung cấp trong câu lệnh để có được kết quả mong muốn nhất. Các mô hình như PaLM và Gemini thường có thể chọn các mẫu thông qua một vài ví dụ, mặc dù bạn có thể cần phải thử nghiệm số lượng ví dụ dẫn đến kết quả mong muốn. Đối với các mô hình đơn giản hơn như BERT, bạn có thể cần nhiều ví dụ hơn. Đồng thời, nếu bạn đưa vào quá nhiều ví dụ, mô hình có thể bắt đầu vượt quá phản hồi cho các ví dụ.

Dùng ví dụ để trình bày các mẫu thay vì phản mẫu

Việc sử dụng ví dụ để cho mô hình thấy một mẫu cần tuân theo sẽ hiệu quả hơn so với việc sử dụng các ví dụ để cho mô hình thấy một mẫu phản mẫu cần tránh.

Mẫu phủ định:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Mẫu tích cực:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Sử dụng định dạng nhất quán trên các ví dụ

Hãy đảm bảo rằng cấu trúc và định dạng của các ví dụ về vài ảnh chụp giống nhau để tránh phản hồi có các định dạng không mong muốn. Một trong những mục tiêu chính của việc thêm ví dụ vài cảnh vào câu lệnh là hiển thị cho mô hình định dạng phản hồi. Do đó, cần phải đảm bảo định dạng nhất quán trên tất cả các ví dụ, đặc biệt chú ý đến thẻ XML, khoảng trắng, dòng mới và bộ phân tách ví dụ.

Tóm tắt

  • Việc đưa các ví dụ về câu trả lời gợi ý vào câu lệnh sẽ giúp mô hình học cách phản hồi.
  • Cung cấp ví dụ về các mẫu cần tuân theo thay vì ví dụ về các mẫu cần tránh.
  • Thử nghiệm với số lượng lời nhắc cần đưa vào. Tuỳ thuộc vào mô hình, có quá ít ví dụ không hiệu quả trong việc thay đổi hành vi của mô hình. Quá nhiều ví dụ khiến mô hình bị quá mức.
  • Sử dụng định dạng nhất quán trên các ví dụ

Thêm thông tin theo ngữ cảnh

Bạn có thể đưa vào hướng dẫn lời nhắc và thông tin mà mô hình cần để giải quyết vấn đề thay vì giả định rằng mô hình có tất cả thông tin bắt buộc. Thông tin theo bối cảnh này giúp mô hình hiểu được các quy tắc ràng buộc và chi tiết về những gì bạn đang yêu cầu.

Ví dụ sau đây yêu cầu mô hình cung cấp hướng dẫn khắc phục sự cố cho bộ định tuyến:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  
1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.


2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.


3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.


4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).


5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.


6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.


7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.


8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.
  

Phản hồi giống như thông tin khắc phục sự cố chung không dành riêng cho bộ định tuyến hoặc trạng thái của đèn chỉ báo LED.

Để tuỳ chỉnh phản hồi cho bộ định tuyến cụ thể, bạn có thể thêm vào lời nhắc hướng dẫn khắc phục sự cố của bộ định tuyến dưới dạng ngữ cảnh để tham khảo khi đưa ra phản hồi.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Tóm tắt

  • Đưa thông tin (ngữ cảnh) vào lời nhắc mà bạn muốn mô hình sử dụng khi tạo phản hồi.
  • Đưa ra hướng dẫn cho mô hình về cách sử dụng thông tin theo ngữ cảnh.

Thêm tiền tố

Tiền tố là một từ hoặc cụm từ mà bạn thêm vào nội dung lời nhắc và có thể phục vụ nhiều mục đích, tuỳ thuộc vào vị trí bạn đặt tiền tố:

  • Tiền tố đầu vào: Thêm một tiền tố vào các tín hiệu đầu vào có ý nghĩa về mặt ngữ nghĩa của đầu vào vào mô hình. Ví dụ: các tiền tố "Tiếng Anh:" và "Tiếng Pháp:" có thể phân cách hai ngôn ngữ khác nhau.
  • Tiền tố đầu ra: Mặc dù dữ liệu đầu ra do mô hình tạo ra nhưng bạn có thể thêm tiền tố cho kết quả đó trong lời nhắc. Tiền tố đầu ra cung cấp thông tin cho mô hình về dữ liệu dự kiến sẽ được dùng dưới dạng một phản hồi. Ví dụ: tiền tố đầu ra "JSON:" báo hiệu cho mô hình rằng dữ liệu đầu ra phải ở định dạng JSON.
  • Tiền tố mẫu: Trong lời nhắc vài lần, việc thêm tiền tố vào ví dụ sẽ cung cấp các nhãn mà mô hình có thể sử dụng khi tạo dữ liệu đầu ra, giúp phân tích cú pháp nội dung đầu ra dễ dàng hơn.

Trong ví dụ sau, "Text:" là tiền tố đầu vào và "Câu trả lời là:" là tiền tố đầu ra.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
large
  

Để mô hình hoàn tất dữ liệu nhập một phần

Mô hình ngôn ngữ tạo sinh hoạt động giống như một công cụ tự động hoàn thành nâng cao. Khi bạn cung cấp một phần nội dung, mô hình này có thể cung cấp phần nội dung còn lại hoặc cho rằng phần tử tiếp theo của nội dung đó là phản hồi. Trong quá trình này, nếu bạn đưa vào bất kỳ ví dụ hoặc ngữ cảnh nào, thì mô hình có thể xem xét các ví dụ hoặc ngữ cảnh đó.

Ví dụ sau đây đưa ra một lời nhắc kèm theo hướng dẫn và thông tin đầu vào cho thực thể:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```
  

Mặc dù mô hình hoạt động như được nhắc, nhưng việc viết hướng dẫn bằng ngôn ngữ tự nhiên đôi khi có thể khó khăn và việc này phụ thuộc nhiều vào cách diễn giải của mô hình. Ví dụ: trình đơn nhà hàng có thể chứa nhiều mục. Để giảm kích thước của phản hồi JSON, bạn nên bỏ qua các mục chưa được sắp xếp. Trong trường hợp này, bạn có thể đưa ra một ví dụ và tiền tố phản hồi rồi để mô hình hoàn tất:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```
  

Hãy lưu ý cách "cheeseburger" bị loại trừ khỏi kết quả vì nó không nằm trong đơn đặt hàng.

Nhắc mô hình định dạng câu trả lời

Chiến lược hoàn thành cũng có thể giúp định dạng câu trả lời. Ví dụ sau đây sẽ nhắc mô hình tạo một dàn ý cho bài luận:

Create an outline for an essay about hummingbirds.
  
I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.
  

Lời nhắc không chỉ định định dạng cho đường viền và mô hình đã chọn một định dạng cho bạn. Để mô hình trả về đường viền ở một định dạng cụ thể, bạn có thể thêm văn bản thể hiện điểm bắt đầu của đường viền và để mô hình hoàn tất đường viền dựa trên mẫu bạn đã khởi tạo.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.
  

Tóm tắt

  • Nếu bạn cung cấp cho mô hình này một phần dữ liệu đầu vào, thì mô hình sẽ hoàn tất dữ liệu đầu vào đó dựa trên mọi ví dụ hoặc ngữ cảnh hiện có trong lời nhắc.
  • Đôi khi, việc mô hình hoàn tất một dữ liệu đầu vào có thể dễ dàng hơn việc mô tả nhiệm vụ bằng ngôn ngữ tự nhiên.
  • Việc thêm một phần câu trả lời vào câu lệnh có thể hướng dẫn mô hình tuân theo một mẫu hoặc định dạng mong muốn.

Chia lời nhắc thành các thành phần đơn giản

Đối với các trường hợp sử dụng đòi hỏi lời nhắc phức tạp, bạn có thể giúp mô hình quản lý sự phức tạp này bằng cách chia nhỏ thành các thành phần đơn giản hơn.

Hướng dẫn chi tiết

Thay vì có nhiều hướng dẫn trong một câu lệnh, hãy tạo một câu lệnh cho mỗi hướng dẫn. Bạn có thể chọn lời nhắc cần xử lý dựa trên hoạt động đầu vào của người dùng.

Lời nhắc theo chuỗi

Đối với các tác vụ phức tạp có nhiều bước tuần tự, hãy đặt mỗi bước làm lời nhắc rồi nối các lời nhắc với nhau theo trình tự. Trong chuỗi câu lệnh tuần tự này, dữ liệu đầu ra của một câu lệnh trong trình tự sẽ trở thành dữ liệu đầu vào của câu lệnh tiếp theo. Kết quả của lời nhắc cuối cùng trong trình tự sẽ là kết quả cuối cùng.

Câu trả lời tổng hợp

Tổng hợp dữ liệu là khi bạn muốn thực hiện nhiều tác vụ song song trên những phần khác nhau của dữ liệu và tổng hợp kết quả để cho ra kết quả cuối cùng. Ví dụ: bạn có thể yêu cầu mô hình thực hiện một thao tác trên phần đầu tiên của dữ liệu, thực hiện một thao tác khác trên phần dữ liệu còn lại và tổng hợp kết quả.

Tóm tắt

  • Chia nhỏ các hướng dẫn phức tạp thành một câu lệnh cho từng lệnh và quyết định áp dụng câu lệnh nào dựa trên thông tin mà người dùng nhập.
  • Chia nhỏ nhiều bước tuần tự thành các câu lệnh riêng biệt rồi liên kết các bước đó để đầu ra của câu lệnh trước đó trở thành dữ liệu đầu vào của câu lệnh sau.
  • Chia nhỏ các tác vụ song song và tổng hợp phản hồi để cho ra kết quả cuối cùng.

Thử nghiệm với các giá trị thông số khác nhau

Mỗi lệnh gọi mà bạn gửi đến một mô hình sẽ bao gồm các giá trị tham số kiểm soát cách mô hình đó tạo ra một phản hồi. Mô hình có thể tạo ra kết quả riêng cho từng giá trị tham số. Hãy thử nghiệm với nhiều giá trị thông số để nhận được giá trị tốt nhất cho tác vụ. Các tham số có sẵn cho các mô hình khác nhau có thể khác nhau. Sau đây là các tham số phổ biến nhất:

  • Mã thông báo đầu ra tối đa
  • Nhiệt độ
  • Đầu trang
  • Bàn thắng

Mã thông báo đầu ra tối đa

Số lượng mã thông báo tối đa có thể tạo trong phản hồi. Mã thông báo có khoảng bốn ký tự. 100 mã thông báo tương ứng với khoảng 60-80 từ.

Chỉ định giá trị thấp hơn cho phản hồi ngắn hơn và giá trị cao hơn cho phản hồi dài hơn.

Nhiệt độ

Nhiệt độ được dùng để lấy mẫu trong quá trình tạo phản hồi, xảy ra khi áp dụng topPtopK. Nhiệt độ kiểm soát mức độ ngẫu nhiên của việc lựa chọn mã thông báo. Nhiệt độ thấp hơn phù hợp với các câu lệnh đòi hỏi câu trả lời sáng tạo hoặc mang tính quyết định hơn và ít mang tính mở hoặc sáng tạo hơn. Trong khi đó, nhiệt độ cao hơn có thể mang lại kết quả đa dạng hoặc sáng tạo hơn. Nhiệt độ 0 là tính xác định, nghĩa là phản hồi có khả năng cao nhất luôn được chọn.

Trong hầu hết các trường hợp sử dụng, hãy thử bắt đầu với nhiệt độ là 0.2. Nếu mô hình trả về một phản hồi quá chung chung, quá ngắn hoặc mô hình đó đưa ra một phản hồi dự phòng, hãy thử tăng nhiệt độ.

Đầu trang

Top-K thay đổi cách mô hình chọn mã thông báo cho đầu ra. Top-K của 1 có nghĩa là mã thông báo được chọn tiếp theo là mã có nhiều khả năng xuất hiện nhất trong số tất cả các mã thông báo trong từ vựng của mô hình (còn được gọi là giải mã tham gia), trong khi đỉnh K của 3 có nghĩa là mã thông báo tiếp theo được chọn trong số 3 mã thông báo có khả năng xuất hiện nhất dựa trên nhiệt độ.

Đối với mỗi bước chọn mã thông báo, mã thông báo thuộc nhóm K hàng đầu có xác suất cao nhất sẽ được lấy mẫu. Sau đó, mã thông báo được lọc thêm dựa trên giá trị đầu vào (top-P) với mã thông báo cuối cùng được chọn bằng cách sử dụng phương pháp lấy mẫu nhiệt độ.

Chỉ định giá trị thấp hơn cho các phản hồi ít ngẫu nhiên hơn và giá trị cao hơn cho các phản hồi ngẫu nhiên hơn. Top-K mặc định là 40.

Bàn thắng

Top-P thay đổi cách mô hình chọn mã thông báo cho đầu ra. Mã thông báo được chọn từ nhiều khả năng nhất (xem chữ cái trên cùng) đến ít khả năng nhất cho đến khi tổng xác suất của chúng bằng giá trị P cao nhất. Ví dụ: nếu mã thông báo A, B và C có xác suất là 0, 3, 0, 2 và 0, 1 và giá trị P cao nhất là 0.5, thì mô hình sẽ chọn A hoặc B làm mã thông báo tiếp theo bằng cách sử dụng nhiệt độ và loại trừ C làm đề xuất.

Chỉ định giá trị thấp hơn cho các phản hồi ít ngẫu nhiên hơn và giá trị cao hơn cho các phản hồi ngẫu nhiên hơn. Giá trị trên cùng mặc định là 0.95.

Chiến lược lặp lại lời nhắc

Thiết kế lời nhắc là một quy trình lặp lại, thường yêu cầu lặp lại vài lần trước khi bạn nhận được phản hồi mong muốn một cách nhất quán. Phần này đưa ra hướng dẫn về một số việc mà bạn có thể thử khi lặp lại câu lệnh.

Dùng cách diễn đạt khác nhau

Việc sử dụng các từ hoặc cách diễn đạt khác nhau trong câu lệnh của bạn thường mang lại các phản hồi khác với mô hình, mặc dù tất cả đều có ý nghĩa như nhau. Nếu bạn không nhận được kết quả như mong đợi từ lời nhắc của mình, hãy thử diễn đạt lại.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Chuyển sang một tác vụ tương tự

Nếu bạn không thể khiến mô hình tuân theo hướng dẫn cho một tác vụ, hãy thử cung cấp cho mô hình đó hướng dẫn cho một tác vụ tương tự cũng đạt được kết quả tương tự.

Lời nhắc này sẽ yêu cầu mô hình phân loại một cuốn sách bằng cách sử dụng các danh mục được xác định trước.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.
  

Câu trả lời đúng, nhưng mô hình không nằm trong giới hạn được lựa chọn. Bạn cũng nên làm mẫu để chỉ trả lời bằng một trong các lựa chọn thay vì trả lời trong một câu đầy đủ. Trong trường hợp này, bạn có thể diễn đạt lại hướng dẫn dưới dạng câu hỏi trắc nghiệm và yêu cầu mô hình chọn một tuỳ chọn.

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  
The answer is: mythology
  

Thay đổi thứ tự nội dung câu lệnh

Thứ tự của nội dung trong câu lệnh đôi khi có thể ảnh hưởng đến câu trả lời. Hãy thử thay đổi thứ tự nội dung và xem điều đó ảnh hưởng đến phản hồi như thế nào.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Phản hồi dự phòng

Phản hồi dự phòng là phản hồi được mô hình trả về khi lời nhắc hoặc phản hồi kích hoạt bộ lọc an toàn. Ví dụ về phản hồi dự phòng là "Tôi không thể giúp bạn việc đó, vì tôi chỉ là một mô hình ngôn ngữ".

Nếu mô hình phản hồi bằng phản hồi dự phòng, hãy thử tăng nhiệt độ.

Những điều nên tránh

  • Tránh dựa vào các mô hình để tạo thông tin thực tế.
  • Hãy thận trọng khi sử dụng các bài toán và logic.

Các bước tiếp theo