Estratégias de design de comandos

Nesta página, apresentamos algumas estratégias gerais de criação de comandos que podem ser implementadas.

Os modelos de linguagem grandes (LLM) são treinados com grandes quantidades de dados de texto para aprender os padrões e as relações entre a linguagem. Quando recebem algum texto (o prompt), os modelos de idioma podem prever o que provavelmente virá em seguida, como uma sofisticada ferramenta de preenchimento automático.

• Dê instruções claras e específicas
• Incluir exemplos few-shott
• Adicionar informações contextuais
• Adicionar prefixos
• Deixar o modelo concluir a entrada parcial

Dê instruções claras e específicas

Dar instruções ao modelo sobre o que fazer é uma maneira eficaz e eficiente de personalizar o comportamento dele. As instruções fornecidas precisam ser claras e específicas. As instruções podem ser tão simples quanto uma lista de instruções detalhadas ou complexas, como mapear a experiência e a mentalidade de um usuário.

Definir a tarefa a ser executada

Descreva em detalhes a tarefa que você quer que o modelo realize. A tarefa pode ser tão simples quanto uma lista passo a passo de instruções ou tão complexa quanto mapear a experiência e a mentalidade de um usuário. O comando a seguir pede que o modelo resuma um bloco de texto:

Summarize this text:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  

    Quantum computers leverage the wave-particle duality of matter at tiny scales to perform
    calculations exponentially faster than traditional computers. They harness quantum phenomena,
    which are beyond the scope of classical physics, to achieve this speed advantage. While
    promising for applications like cybersecurity, weather forecasting, and beyond, current
    quantum computers are still experimental and not yet practical for widespread use.
  

Especificar restrições

Especifique as restrições à leitura do comando ou à geração de uma resposta. Você pode dizer ao modelo o que fazer e o que não fazer. No exemplo anterior, o resumo é mais curto do que o texto original, mas talvez você queira que o resumo seja mais curto. Nesse caso, é possível especificar uma restrição no comando sobre a duração do resumo:

Summarize this text in two sentences:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Quantum computers harness the wave-particle duality of matter at the quantum level to perform
      computations exponentially faster than traditional computers. While these machines hold
      immense potential for fields like cybersecurity and weather forecasting, they are currently
      in their early stages of development and not yet practical for widespread use.
    

Definir o formato da resposta

Você também pode dar instruções que especifiquem o formato da resposta. Por exemplo, você pode pedir que a resposta seja formatada como tabela, lista com marcadores, argumento rápido de venda, palavras-chave, frase ou parágrafo. A mensagem do sistema a seguir instrui o modelo a ser mais conversacional na resposta:

    All questions should be answered comprehensively with details, unless the user requests a
    concise response specifically. Respond in the same language as the query.
  

    What is a smart way to create a lemonade business?
  

Launching a Successful Lemonade Stand: A Smart Approach
Creating a lemonade business, whether a simple stand or a larger operation, requires strategic thinking. Here's a breakdown of how to approach it smartly:

1. Define Your Business:
Scope: Are you aiming for a small, seasonal lemonade stand, a food truck, a delivery service, or something else entirely?
Target Audience: Who are you selling to? Families, office workers, tourists?
Unique Selling Proposition: What sets your lemonade apart? Special flavors, organic ingredients, a unique recipe?

Pricing: Research competitor prices and determine a profitable pricing structure.
Location: Consider foot traffic, accessibility, and regulations for your chosen location.
.....
  

Resumo

• Dê aos modelos instruções sobre o que fazer.
• As instruções precisam ser claras e específicas.
• Especifique restrições ou requisitos de formatação para a saída.

Incluir exemplos few-shott

Você pode incluir exemplos no comando que mostram ao modelo como fazer isso da forma certa. O modelo tenta identificar padrões e relações entre os exemplos e os aplica ao gerar uma resposta. As solicitações que contêm alguns exemplos são chamadas de solicitações curtas, enquanto as que não fornecem exemplos são chamadas de solicitações de zero disparo. Muitas vezes, as solicitações de imagem são usadas para regular a formatação, a frase, o escopo ou o padrão geral das respostas do modelo. Use exemplos específicos e variados para ajudar o modelo a restringir o foco e gerar resultados mais precisos.

Recomendamos sempre incluir exemplos few-shot nos comandos. Comandos sem exemplos few-shot provavelmente são menos eficazes. Na verdade, é possível remover instruções do comando se os exemplos forem claros o suficiente para mostrar a tarefa em questão.

Tomada zero ou poucas fotos

O prompt de imagem zero pede ao modelo para escolher a melhor explicação.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  

Explanation 1 is the best explanation.
  

Se o caso de uso exigir que o modelo produza respostas concisas, inclua exemplos no prompt para dar preferência a respostas concisas.

O prompt a seguir fornece dois exemplos que mostram preferência pelas explicações mais curtas. Na resposta, é possível ver que os exemplos guiaram o modelo para escolher a explicação mais curta (Explicação2), em vez da explicação mais longa (Explicação1) como fazia anteriormente.

Below are some examples showing a question, explanation, and answer format:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  

Answer: Explanation2
  

Encontre o número ideal de exemplos

Teste o número de exemplos a serem fornecidos no comando para ter os resultados mais desejados. Modelos como o Gemini geralmente podem identificar padrões usando alguns exemplos. No entanto, talvez seja necessário testar quantos exemplos levam aos resultados desejados. Ao mesmo tempo, se você incluir muitos exemplos, o modelo poderá começar a sobrepor a resposta aos exemplos.

Use exemplos para mostrar padrões em vez de antipadrões

Usar exemplos para mostrar ao modelo um padrão a ser seguido é mais eficaz do que usar exemplos para mostrar ao modelo um antipadrão a ser evitado.

⛔ Padrão negativo:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

✅ Padrão positivo:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Usar formatação consistente em todos os exemplos

Confira se a estrutura e a formatação desses exemplos são iguais para evitar respostas com formatos indesejados. Um dos principais objetivos de adicionar exemplos few-shot nos comandos é mostrar ao modelo o formato da resposta. Portanto, é essencial garantir um formato consistente em todos os exemplos, especialmente prestando atenção às tags XML, espaços em branco, novas linhas e divisores de exemplo.

Resumo

• Incluir exemplos de resposta no prompt ajuda o modelo a aprender como responder.
• Dê ao modelo exemplos dos padrões a serem seguidos em vez de exemplos de padrões a serem evitados.
• Faça experiências com o número de solicitações para incluir. Dependendo do modelo, poucos exemplos são ineficazes na alteração do comportamento do modelo. Muitos exemplos fazem com que o modelo apresente overfitting.
• Usar formatação consistente em todos os exemplos

Adicionar informações contextuais

É possível incluir nas instruções e informações do prompt que o modelo precisa para resolver um problema, em vez de presumir que o modelo tem todas as informações necessárias. Essas informações contextuais ajudam o modelo a entender as restrições e os detalhes do que você está pedindo que ele faça.

O exemplo a seguir pede ao modelo que forneça orientação para solução de problemas de um roteador:

What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  

  A yellow blinking light on your Google Wifi router usually indicates a problem with the internet connection. Here are some steps to troubleshoot and fix the issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....
  

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  

Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Resumo

• Inclua informações (contexto) no prompt que você quer que o modelo use ao gerar uma resposta.
• Dê ao modelo instruções sobre como usar as informações contextuais.

Adicionar prefixos

Um prefixo é uma palavra ou frase que você adiciona ao conteúdo do prompt e pode ser usada para várias finalidades, dependendo de onde você o colocou:

• Prefixo de entrada: a adição de um prefixo aos sinais de entrada indica partes semanticamente significativas da entrada para o modelo. Por exemplo, os prefixos "Inglês:" e "Francês:" demarcam dois idiomas diferentes.
• Prefixo da saída: mesmo que a saída seja gerada pelo modelo, é possível adicionar um prefixo à saída na solicitação. O prefixo de saída fornece ao modelo informações sobre o que é esperado como resposta. Por exemplo, o prefixo de saída "JSON:" sinaliza para o modelo que a saída precisa estar no formato JSON.
• Prefixo de exemplo: em prompts curtos, adicionar prefixos aos exemplos fornece rótulos que o modelo pode usar ao gerar a saída, o que facilita a análise do conteúdo de saída.

No exemplo a seguir, "Texto:" é o prefixo de entrada e "A resposta é:" é o prefixo de saída.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  

The answer is: large
  

Permitir que o modelo conclua a entrada parcial

Os modelos de linguagem generativa funcionam como uma ferramenta avançada de preenchimento automático. Quando você fornece conteúdo parcial, o modelo pode fornecer o restante do conteúdo ou o que considera ser uma continuação desse conteúdo, como uma resposta. Ao fazer isso, se você incluir exemplos ou contexto, o modelo poderá levar esses exemplos ou contexto em consideração.

O exemplo a seguir fornece um prompt com uma instrução e uma entrada de entidade:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  

```
{
  "hamburger": 1,
  "drink": 1
}
```
  

Embora o modelo tenha feito o que foi solicitado, escrever as instruções em linguagem natural às vezes pode ser desafiador e deixar muito para a interpretação do modelo. Por exemplo, o cardápio de um restaurante pode conter muitos itens. Para reduzir o tamanho da resposta JSON, omita os itens que não foram ordenados. Nesse caso, é possível fornecer um exemplo e um prefixo de resposta e deixar o modelo concluí-lo:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  

```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```
  

Observe como "cheeseburger" foi excluído da saída porque não fazia parte do pedido.

Solicitar que o modelo formate a resposta

A estratégia de conclusão também pode ajudar a formatar a resposta. O exemplo a seguir solicita que o modelo crie um esboço de redação:

Create an outline for an essay about hummingbirds.
  

  Hummingbirds: A Symphony of Speed and Color
    I. Introduction
    A. Hummingbirds are fascinating creatures known for their dazzling colors, lightning-fast flight, and unique feeding habits.
    B. Brief overview of the diversity of hummingbird species and their geographic distribution.
    C. Thesis statement: Hummingbirds are an embodiment of resilience, adaptation, and the wonders of the natural world.
.....
  

O prompt não especificou o formato da estrutura de tópicos, e o modelo escolheu um formato para você. Para que o modelo retorne um contorno em um formato específico, adicione texto que represente o início dele e deixe que o modelo o conclua com base no padrão iniciado.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  

  Hummingbirds: Jewels of the Air
    **I. Introduction**
       * **Hook:** Begin with a captivating image or anecdote about hummingbirds, emphasizing their vibrant colors, rapid flight, and unique feeding habits.
       * **Background:** Briefly introduce hummingbirds as the smallest birds in the world and their fascinating adaptations for a nectar-rich diet.
       * **Thesis:** State the main argument or focus of the essay. Examples: 
            * **The incredible adaptations of hummingbirds enable them to thrive in diverse ecosystems.**
            * **Hummingbirds play a crucial role in pollination and biodiversity.**
            * **The beauty and grace of hummingbirds make them captivating subjects for both scientific study and artistic appreciation.**
  

Resumo

• Se você fornecer uma entrada parcial ao modelo, ele a preencherá com base em qualquer exemplo ou contexto disponível no prompt.
• Às vezes, pode ser mais fácil fazer com que o modelo conclua uma entrada do que descrever a tarefa em linguagem natural.
• Adicionar uma resposta parcial a uma solicitação pode orientar o modelo para seguir um padrão ou formato desejado.

Dividir comandos em componentes simples

Para casos de uso que exigem solicitações complexas, é possível ajudar o modelo a gerenciar essa complexidade dividindo os itens em componentes mais simples.

Detalhar as instruções

Em vez de ter várias instruções em um só comando, crie um por instrução. Você pode escolher qual solicitação processar com base na entrada do usuário.

Comandos em cadeia

Respostas agregadas

A agregação é quando você quer executar diferentes tarefas paralelas em diferentes partes dos dados e agregar os resultados para produzir a saída final. Por exemplo, é possível dizer ao modelo para executar uma operação na primeira parte dos dados, executar outra operação no restante dos dados e agregar os resultados.

Resumo

• Divida instruções complexas em um comando para cada instrução e decida qual comando aplicar com base na entrada do usuário.
• Divida várias etapas sequenciais em comandos separados e encadeie-os de modo que a saída do comando anterior se torne a entrada do comando a seguir.
• Separe tarefas paralelas e agregue as respostas para produzir o resultado final.

Teste diferentes valores de parâmetros

Cada chamada que você envia a um modelo inclui valores de parâmetros que controlam como o modelo gera uma resposta. O modelo pode gerar diferentes resultados para diferentes valores de parâmetros. Teste diferentes valores de parâmetros para conseguir os melhores valores para a tarefa. Os parâmetros disponíveis para modelos diferentes podem ser diferentes. Os parâmetros mais comuns são:

• Máximo de tokens de saída
• Temperatura
• Top-K
• Top-P

Máximo de tokens de saída

Especifique um valor mais baixo para respostas mais curtas e um valor mais alto para respostas mais longas.

Temperatura

Na maioria dos casos de uso, é melhor começar com a temperatura 0.2. Se o modelo retornar uma resposta muito genérica, muito curta ou se o modelo fornecer uma resposta substituta, tente aumentar a temperatura.

Top-K

Para cada etapa da seleção de tokens, são amostrados os tokens top-K com as maiores probabilidades. Em seguida, os tokens são filtrados com base no valor de top-P com o token final selecionado por meio da amostragem de temperatura.

Especifique um valor mais baixo para respostas menos aleatórias e um valor mais alto para respostas mais aleatórias. O top-K padrão é 40.

Top-P

Especifique um valor mais baixo para respostas menos aleatórias e um valor mais alto para respostas mais aleatórias. O top-P padrão é 0.95.

Estratégias de iteração de prompt

O design de prompt é um processo iterativo que geralmente requer algumas iterações antes de receber a resposta desejada de forma consistente. Esta seção fornece orientações sobre algumas coisas que você pode tentar ao iterar nas suas solicitações.

Use formulações diferentes

O uso de palavras diferentes ou frases em suas solicitações costuma gerar respostas diferentes do modelo, mesmo que todas tenham o mesmo significado. Se você não estiver recebendo os resultados esperados, tente reformular o prompt.

Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?
  

Mude para uma tarefa análoga

Se você não conseguir que o modelo siga as instruções para uma tarefa, tente dar a ela instruções para uma tarefa análoga que consegue o mesmo resultado.

Esse prompt instrui o modelo a categorizar um livro usando categorias predefinidas.

Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  

    The Odyssey belongs to the category of **mythology**. 

    Here's why:
    
    * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
    journey home after the Trojan War. It features gods, monsters, and supernatural events common to
    Greek mythology.
.....
  

A resposta está correta, mas o modelo não permaneceu dentro dos limites das opções. Você também precisa modelar para responder apenas com uma das opções, em vez de em uma frase completa. Nesse caso, é possível reformular as instruções como uma pergunta de múltipla escolha e solicitar que o modelo escolha uma opção.

Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  

The correct answer is **mythology**. 
  

Mude a ordem do conteúdo do comando

Às vezes, a ordem do conteúdo no prompt pode afetar a resposta. Tente alterar a ordem do conteúdo e ver como isso afeta a resposta.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Respostas substitutas

Uma resposta substituta é retornada pelo modelo quando a solicitação ou a resposta acionam um filtro de segurança. Um exemplo de resposta substituta é "Não posso ajudar com isso, porque sou apenas um modelo de linguagem".

Se o modelo responder com uma resposta substituta, tente aumentar a temperatura.

O que evitar

• Evite depender de modelos para gerar informações factuais.
• Use com cuidado em problemas matemáticos e lógicos.

Próximas etapas

• Agora que você entende melhor o design de comandos, tente escrever seus próprios comandos usando o Google AI Studio.
• Para saber mais sobre comandos multimodais, consulte Comandos com arquivos de mídia.