Оперативные стратегии проектирования

Проектирование подсказок — это процесс создания подсказок или запросов на естественном языке, которые вызывают точные и качественные ответы от языковой модели.

На этой странице представлены основные концепции, стратегии и лучшие практики, которые помогут вам приступить к разработке подсказок и получить максимальную отдачу от моделей Gemini AI.

Подсказки по конкретным темам

Ищете более конкретные стратегии быстрого реагирования? Ознакомьтесь с другими нашими руководствами по подсказкам:

В Google AI Studio также имеется галерея подсказок , предназначенная для интерактивной демонстрации многих концепций, представленных в этом руководстве.

Четкие и конкретные инструкции

Эффективный и действенный способ настроить поведение модели — предоставить ей четкие и конкретные инструкции. Инструкции могут быть в форме вопросов, пошаговых заданий или в виде сложных, например, описания опыта и мышления пользователя.

Вход

Ввод — это обязательный текст в приглашении, на который модель должна предоставить ответ. Входными данными могут быть вопрос, на который отвечает модель (ввод вопроса), задача, которую выполняет модель (входные данные задачи), объект, с которым работает модель (входные данные сущности), или частичные входные данные, которые модель завершает или продолжает (входные данные завершения).

Тип входа Быстрый Сгенерированный вывод
Вопрос

    What's a good name for a flower shop that specializes in selling bouquets of
    dried flowers? Create a list of 5 options with just the names.

    Here are 10 names for a flower shop specializing in dried flowers:

    1. Everlasting Blooms
    2. Dried & Delightful
    3. The Petal Preserve
    4. Whispers of Wildflowers
    5. Forever Blooms
    
Задача
    Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
    1. **Tent:** Your shelter from the elements.
    2. **Sleeping Bag:** Stay warm and comfortable.
    3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.
    4. **Headlamp or Flashlight:** Light for nighttime activities.
    5. **First Aid Kit:** Be prepared for minor injuries.
Сущность

    Classify the following items as [large, small]:
Elephant
Mouse
Snail

Here's the classification:

* **Elephant:** Large
* **Mouse:** Small
* **Snail:** Small
    

Частичное завершение ввода

Генеративные языковые модели работают как расширенный инструмент автоматического завершения. Когда вы предоставляете частичный контент, модель может предоставить в качестве ответа остальную часть контента или то, что она считает продолжением этого контента. Если при этом вы включите какие-либо примеры или контекст, модель сможет принять во внимание эти примеры или контекст.

В следующем примере представлено приглашение с инструкцией и вводом сущности:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
{
  "cheeseburger": 0,
  "hamburger": 1,
  "fries": 0,
  "drink": 1
}
  

Хотя модель выполнила подсказку, написание инструкций на естественном языке иногда может быть сложной задачей, и это оставляет много возможностей для интерпретации модели. Например, меню ресторана может содержать множество позиций. Чтобы уменьшить размер ответа JSON, вы, вероятно, захотите опустить неупорядоченные элементы. В этом случае вы можете указать пример и префикс ответа и позволить модели завершить его:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```
  

Обратите внимание, что слово «чизбургер» было исключено из вывода, поскольку оно не было частью заказа.

Ограничения

Укажите любые ограничения на чтение приглашения или создание ответа. Вы можете сказать модели, что делать, а что нет. Например, вы можете указать в приглашении ограничение на длину сводки:

Summarize this text in one sentence:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.
    

Формат ответа

Вы можете дать инструкции, определяющие формат ответа. Например, вы можете запросить форматирование ответа в виде таблицы, маркированного списка, презентаций, ключевых слов, предложения или абзаца. Следующая системная инструкция предписывает модели быть более разговорчивой в ответе:

    All questions should be answered comprehensively with details, unless the user requests a concise response specifically.
  
    What is a smart way to make a business that sells DVD's in 2025?
  
Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.

Here's a breakdown of what a smart DVD business in 2025 would likely entail:

1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:

    * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.
    ....
  

Отформатируйте ответы со стратегией завершения.

Стратегия завершения также может помочь сформулировать ответ. В следующем примере модели предлагается создать план эссе:

Create an outline for an essay about hummingbirds.
  
Here is a possible outline for an essay about hummingbirds:

I. Introduction
A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds.
C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.

II. Appearance and Identification
.....
  

В подсказке не указан формат контура, и модель выбрала формат за вас. Чтобы модель возвращала структуру в определенном формате, вы можете добавить текст, обозначающий начало структуры, и позволить модели завершить ее на основе инициированного вами шаблона.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:

I. Introduction
* Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
* Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics.
* Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary.
.....
  

Подсказки с нулевым выстрелом и с несколькими выстрелами

Вы можете включить в подсказку примеры, которые покажут модели, как выглядит правильная работа. Модель пытается выявить закономерности и взаимосвязи в примерах и применяет их при генерации ответа. Подсказки, содержащие несколько примеров, называются подсказками с несколькими примерами , а подсказки, не содержащие примеров, называются подсказками с нулевым шагом . Кратковременные подсказки часто используются для регулирования форматирования, формулировки, объема или общей структуры ответов модели. Используйте конкретные и разнообразные примеры, чтобы помочь модели сузить фокус и получить более точные результаты.

Мы рекомендуем всегда включать в подсказки примеры из нескольких кадров. Подсказки без примеров, скорее всего, будут менее эффективными. Фактически, вы можете удалить инструкции из подсказки, если ваши примеры достаточно ясно показывают поставленную задачу.

Следующая подсказка с нулевым результатом предлагает модели выбрать лучшее объяснение.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1 is the better explanation because it provides more detail on the
process, including how ice crystals combine and grow into snowflakes as they
fall through the atmosphere.
  

Если ваш вариант использования требует, чтобы модель выдавала краткие ответы, вы можете включить в подсказку примеры, отдающие предпочтение кратким ответам.

В следующей подсказке представлены два примера, в которых предпочтение отдается более коротким объяснениям. В ответе вы можете видеть, что примеры помогли модели выбрать более короткое объяснение ( Explanation2 ), а не более длинное объяснение ( Explanation1 ), как это было раньше.

Below are some examples showing a question, explanation, and answer format:

Question: Why is the sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes
shorter blue wavelengths of light to be scattered more easily than longer red
wavelengths, making the sky look blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break
apart, causing a release of energy that creates seismic waves that can shake the
ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2
  

Оптимальное количество примеров

Такие модели, как Gemini, часто могут уловить закономерности, используя несколько примеров, хотя вам, возможно, придется поэкспериментировать с количеством примеров, которые нужно указать в подсказке, для достижения наилучших результатов. В то же время, если вы включите слишком много примеров, модель может начать подстраиваться под ответ на примеры.

Паттерны против антипаттернов

Использование примеров, чтобы показать модели шаблон, которому следует следовать, более эффективно, чем использование примеров, чтобы показать модели антипаттерн, которого следует избегать.

Негативный паттерн:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Позитивный паттерн:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Согласованное форматирование

Убедитесь, что структура и форматирование примеров из нескольких примеров одинаковы, чтобы избежать ответов с нежелательным форматом. Одна из основных целей добавления примеров в подсказки — показать модели формат ответа. Поэтому очень важно обеспечить единообразный формат во всех примерах, особенно обращая внимание на теги XML, пробелы, символы новой строки и разделители примеров.

Добавить контекст

Вы можете включить в подсказку инструкции и информацию, необходимые модели для решения проблемы, вместо того, чтобы предполагать, что модель содержит всю необходимую информацию. Эта контекстная информация помогает модели понять ограничения и детали того, что вы от нее требуете.

В следующем примере модель запрашивает рекомендации по устранению неполадок маршрутизатора:

What should I do to fix my disconnected wifi? The light on my Google
Wifi router is yellow and blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem
  with the internet connection. Here are some steps to troubleshoot and fix the
  issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....
  

Ответ выглядит как общая информация по устранению неполадок, не относящаяся к маршрутизатору или состоянию светодиодных индикаторов.

Чтобы настроить ответ для конкретного маршрутизатора, вы можете добавить к запросу руководство по устранению неполадок маршрутизатора в качестве контекста, на который он будет ссылаться при предоставлении ответа.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Добавить префиксы

Префикс — это слово или фраза, которые вы добавляете к содержимому приглашения и которое может служить нескольким целям, в зависимости от того, где вы поместили префикс:

  • Входной префикс: добавление префикса к входным сигналам сигнализирует о семантически значимых частях входных данных модели. Например, префиксы «Английский:» и «Французский:» обозначают два разных языка.
  • Префикс вывода. Несмотря на то, что выходные данные создаются моделью, вы можете добавить префикс для выходных данных в приглашении. Выходной префикс предоставляет модели информацию о том, что ожидается в качестве ответа. Например, выходной префикс «JSON:» сигнализирует модели, что выходные данные должны быть в формате JSON.
  • Пример префикса. В подсказках с несколькими фрагментами добавление префиксов к примерам обеспечивает метки, которые модель может использовать при создании выходных данных, что упрощает анализ выходного содержимого.

В следующем примере «Текст:» — это входной префикс, а «Ответ:» — выходной префикс.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large
  

Разбейте подсказки на компоненты

В случаях использования, требующих сложных подсказок, вы можете помочь модели справиться с этой сложностью, разбив ее на более простые компоненты.

  1. Разбивайте инструкции: вместо множества инструкций в одной подсказке создайте по одной подсказке для каждой инструкции. Вы можете выбрать, какое приглашение обрабатывать на основе ввода пользователя.

  2. Цепочка подсказок. Для сложных задач, включающих несколько последовательных шагов, сделайте каждый шаг подсказкой и объедините подсказки в последовательность. В этой последовательной цепочке подсказок выходные данные одной подсказки в последовательности становятся входными данными для следующей подсказки. Вывод последнего приглашения в последовательности является окончательным выводом.

  3. Агрегация ответов. Агрегация — это когда вы хотите выполнить разные параллельные задачи с разными частями данных и агрегировать результаты для получения окончательного результата. Например, вы можете указать модели выполнить одну операцию с первой частью данных, выполнить другую операцию с остальными данными и агрегировать результаты.

Экспериментируйте с параметрами модели

Каждый вызов, который вы отправляете модели, включает значения параметров, которые управляют тем, как модель генерирует ответ. Модель может генерировать разные результаты для разных значений параметров. Поэкспериментируйте с различными значениями параметров, чтобы получить наилучшие значения для задачи. Параметры, доступные для разных моделей, могут отличаться. Наиболее распространенными параметрами являются следующие:

  1. Максимальное количество токенов вывода: указывает максимальное количество токенов, которые могут быть созданы в ответе. Токен состоит примерно из четырех символов. 100 токенов соответствуют примерно 60-80 словам.

  2. Температура: температура контролирует степень случайности при выборе токенов. Температура используется для выборки во время генерации ответа, которая происходит при применении topP и topK . Более низкие температуры хороши для подсказок, требующих более детерминированного или менее открытого ответа, в то время как более высокие температуры могут привести к более разнообразным или творческим результатам. Температура 0 является детерминированной, что означает, что всегда выбирается ответ с наибольшей вероятностью.

  3. topK : параметр topK изменяет способ выбора токенов моделью для вывода. Значение topK , равное 1, означает, что выбранный токен является наиболее вероятным среди всех токенов в словаре модели (также называемое жадным декодированием), а topK , равное 3, означает, что следующий токен выбирается из трех наиболее вероятных с использованием температуры. На каждом этапе выбора токена отбираются токены topK с наибольшей вероятностью. Затем токены дополнительно фильтруются на основе topP , причем последний токен выбирается с использованием температурной выборки.

  4. topP : параметр topP изменяет способ выбора токенов моделью для вывода. Токены выбираются от наиболее к наименее вероятным до тех пор, пока сумма их вероятностей не станет равна значению topP . Например, если токены A, B и C имеют вероятность 0,3, 0,2 и 0,1, а значение topP равно 0,5, то модель выберет A или B в качестве следующего токена, используя температуру, и исключит C как кандидата. Значение topP по умолчанию составляет 0,95.

  5. stop_sequences : установите последовательность остановки, чтобы сообщить модели о прекращении генерации контента. Последовательность остановки может представлять собой любую последовательность символов. Старайтесь избегать использования последовательности символов, которая может появиться в сгенерированном контенте.

Подскажите стратегии итерации

Иногда для быстрого проектирования может потребоваться несколько итераций, прежде чем вы последовательно получите желаемый ответ. В этом разделе представлены рекомендации по некоторым вещам, которые вы можете попробовать при повторении подсказок:

  1. Используйте разные формулировки. Использование разных слов или формулировок в подсказках часто приводит к разным ответам модели, хотя все они означают одно и то же. Если вы не получили ожидаемых результатов от подсказки, попробуйте перефразировать ее.

    Version 1:
    How do I bake a pie?
    
    Version 2:
    Suggest a recipe for a pie.
    
    Version 3:
    What's a good pie recipe?
      

  2. Переключитесь на аналогичную задачу: если вы не можете заставить модель следовать вашим инструкциям по выполнению задачи, попробуйте дать ей инструкции по аналогичной задаче, которая дает тот же результат.

    Это приглашение сообщает модели классифицировать книгу, используя предопределенные категории:

    Which category does The Odyssey belong to:
    thriller
    sci-fi
    mythology
    biography
      
        The Odyssey belongs to the category of **mythology**. 
    
        Here's why:
    
        * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
        journey home after the Trojan War. It features gods, monsters, and supernatural events common to
        Greek mythology.
    .....
      

    Ответ правильный, но модель не уложилась в рамки вариантов. Вы также хотите моделировать, чтобы просто отвечать одним из вариантов, а не полным предложением. В этом случае вы можете перефразировать инструкции в виде вопроса с несколькими вариантами ответов и попросить модель выбрать вариант.

    Multiple choice problem: Which of the following options describes the book The Odyssey?
    Options:

    • thriller
    • sci-fi
    • mythology
    • biography
    The correct answer is mythology. 
    
  3. Измените порядок содержимого подсказки. Порядок содержимого подсказки иногда может влиять на ответ. Попробуйте изменить порядок контента и посмотрите, как это повлияет на ответ.

    Version 1:
    [examples]
    [context]
    [input]
    
    Version 2:
    [input]
    [examples]
    [context]
    
    Version 3:
    [examples]
    [input]
    [context]
    

Резервные ответы

Резервный ответ — это ответ, возвращаемый моделью, когда подсказка или ответ запускает фильтр безопасности. Пример запасного ответа: «Я не могу с этим помочь, поскольку я всего лишь языковая модель».

Если модель отвечает аварийным ответом, попробуйте увеличить температуру.

Чего следует избегать

  • Не полагайтесь на модели для получения фактической информации.
  • Используйте с осторожностью при решении математических и логических задач.

Генеративные модели под капотом

Целью этого раздела является ответ на вопрос: есть ли случайность в ответах генеративных моделей или они детерминированы?

Короткий ответ – да для обоих. Когда вы запрашиваете генеративную модель, текстовый ответ генерируется в два этапа. На первом этапе генеративная модель обрабатывает входное приглашение и генерирует распределение вероятностей по возможным токенам (словам), которые, скорее всего, будут следующими. Например, если вы подскажете вводимый текст «Собака перепрыгнула через...», генеративная модель создаст массив возможных следующих слов:

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

Этот процесс является детерминированным; генеративная модель будет создавать одно и то же распределение каждый раз, когда вводится один и тот же текст подсказки.

На втором этапе генеративная модель преобразует эти распределения в реальные текстовые ответы с помощью одной из нескольких стратегий декодирования. Простая стратегия декодирования может выбирать наиболее вероятный токен на каждом временном шаге. Этот процесс всегда будет детерминированным. Однако вместо этого вы можете сгенерировать ответ путем случайной выборки из распределения, возвращаемого моделью. Этот процесс будет стохастическим (случайным). Управляйте степенью случайности, допустимой в этом процессе декодирования, путем установки температуры. Температура 0 означает, что выбраны только наиболее вероятные токены и нет случайности. И наоборот, высокая температура привносит высокую степень случайности в токены, выбранные моделью, что приводит к более неожиданным и удивительным реакциям модели.

Следующие шаги

,

Проектирование подсказок — это процесс создания подсказок или запросов на естественном языке, которые вызывают точные и качественные ответы от языковой модели.

На этой странице представлены основные концепции, стратегии и лучшие практики, которые помогут вам приступить к разработке подсказок и получить максимальную отдачу от моделей Gemini AI.

Подсказки по конкретным темам

Ищете более конкретные стратегии быстрого реагирования? Ознакомьтесь с другими нашими руководствами по подсказкам:

В Google AI Studio также имеется галерея подсказок , предназначенная для интерактивной демонстрации многих концепций, представленных в этом руководстве.

Четкие и конкретные инструкции

Эффективный и действенный способ настроить поведение модели — предоставить ей четкие и конкретные инструкции. Инструкции могут быть в форме вопросов, пошаговых заданий или в виде сложных, например, описания опыта и мышления пользователя.

Вход

Ввод — это обязательный текст в приглашении, на который модель должна предоставить ответ. Входными данными могут быть вопрос, на который отвечает модель (ввод вопроса), задача, которую выполняет модель (входные данные задачи), объект, с которым работает модель (входные данные сущности), или частичные входные данные, которые модель завершает или продолжает (входные данные завершения).

Тип входа Быстрый Сгенерированный вывод
Вопрос

    What's a good name for a flower shop that specializes in selling bouquets of
    dried flowers? Create a list of 5 options with just the names.

    Here are 10 names for a flower shop specializing in dried flowers:

    1. Everlasting Blooms
    2. Dried & Delightful
    3. The Petal Preserve
    4. Whispers of Wildflowers
    5. Forever Blooms
    
Задача
    Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
    1. **Tent:** Your shelter from the elements.
    2. **Sleeping Bag:** Stay warm and comfortable.
    3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.
    4. **Headlamp or Flashlight:** Light for nighttime activities.
    5. **First Aid Kit:** Be prepared for minor injuries.
Сущность

    Classify the following items as [large, small]:
Elephant
Mouse
Snail

Here's the classification:

* **Elephant:** Large
* **Mouse:** Small
* **Snail:** Small
    

Частичное завершение ввода

Генеративные языковые модели работают как расширенный инструмент автоматического завершения. Когда вы предоставляете частичный контент, модель может предоставить в качестве ответа остальную часть контента или то, что она считает продолжением этого контента. Если при этом вы включите какие-либо примеры или контекст, модель сможет принять во внимание эти примеры или контекст.

В следующем примере представлено приглашение с инструкцией и вводом сущности:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
{
  "cheeseburger": 0,
  "hamburger": 1,
  "fries": 0,
  "drink": 1
}
  

Хотя модель выполнила подсказку, написание инструкций на естественном языке иногда может быть сложной задачей, и это оставляет много возможностей для интерпретации модели. Например, меню ресторана может содержать множество позиций. Чтобы уменьшить размер ответа JSON, вы, вероятно, захотите опустить неупорядоченные элементы. В этом случае вы можете указать пример и префикс ответа и позволить модели завершить его:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```
  

Обратите внимание, что слово «чизбургер» было исключено из вывода, поскольку оно не было частью заказа.

Ограничения

Укажите любые ограничения на чтение приглашения или создание ответа. Вы можете сказать модели, что делать, а что нет. Например, вы можете указать в приглашении ограничение на длину сводки:

Summarize this text in one sentence:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.
    

Формат ответа

Вы можете дать инструкции, определяющие формат ответа. Например, вы можете запросить форматирование ответа в виде таблицы, маркированного списка, презентаций, ключевых слов, предложения или абзаца. Следующая системная инструкция предписывает модели быть более разговорчивой в ответе:

    All questions should be answered comprehensively with details, unless the user requests a concise response specifically.
  
    What is a smart way to make a business that sells DVD's in 2025?
  
Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.

Here's a breakdown of what a smart DVD business in 2025 would likely entail:

1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:

    * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.
    ....
  

Отформатируйте ответы со стратегией завершения.

Стратегия завершения также может помочь сформулировать ответ. В следующем примере модели предлагается создать план эссе:

Create an outline for an essay about hummingbirds.
  
Here is a possible outline for an essay about hummingbirds:

I. Introduction
A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds.
C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.

II. Appearance and Identification
.....
  

В подсказке не указан формат контура, и модель выбрала формат за вас. Чтобы модель возвращала структуру в определенном формате, вы можете добавить текст, обозначающий начало структуры, и позволить модели завершить ее на основе инициированного вами шаблона.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:

I. Introduction
* Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
* Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics.
* Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary.
.....
  

Подсказки с нулевым выстрелом и с несколькими выстрелами

Вы можете включить в подсказку примеры, которые покажут модели, как выглядит правильная работа. Модель пытается выявить закономерности и взаимосвязи в примерах и применяет их при генерации ответа. Подсказки, содержащие несколько примеров, называются подсказками с несколькими примерами , а подсказки, не содержащие примеров, называются подсказками с нулевым шагом . Кратковременные подсказки часто используются для регулирования форматирования, формулировки, объема или общей структуры ответов модели. Используйте конкретные и разнообразные примеры, чтобы помочь модели сузить фокус и получить более точные результаты.

Мы рекомендуем всегда включать в подсказки примеры из нескольких кадров. Подсказки без примеров, скорее всего, будут менее эффективными. Фактически, вы можете удалить инструкции из подсказки, если ваши примеры достаточно ясно показывают поставленную задачу.

Следующая подсказка с нулевым результатом предлагает модели выбрать лучшее объяснение.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1 is the better explanation because it provides more detail on the
process, including how ice crystals combine and grow into snowflakes as they
fall through the atmosphere.
  

Если ваш вариант использования требует, чтобы модель выдавала краткие ответы, вы можете включить в подсказку примеры, отдающие предпочтение кратким ответам.

В следующей подсказке представлены два примера, в которых предпочтение отдается более коротким объяснениям. В ответе вы можете видеть, что примеры помогли модели выбрать более короткое объяснение ( Explanation2 ), а не более длинное объяснение ( Explanation1 ), как это было раньше.

Below are some examples showing a question, explanation, and answer format:

Question: Why is the sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes
shorter blue wavelengths of light to be scattered more easily than longer red
wavelengths, making the sky look blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break
apart, causing a release of energy that creates seismic waves that can shake the
ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2
  

Оптимальное количество примеров

Такие модели, как Gemini, часто могут уловить закономерности, используя несколько примеров, хотя вам, возможно, придется поэкспериментировать с количеством примеров, которые нужно указать в подсказке, для достижения наилучших результатов. В то же время, если вы включите слишком много примеров, модель может начать подстраиваться под ответ на примеры.

Паттерны против антипаттернов

Использование примеров, чтобы показать модели шаблон, которому следует следовать, более эффективно, чем использование примеров, чтобы показать модели антипаттерн, которого следует избегать.

Негативный паттерн:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?
  

Позитивный паттерн:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write
  

Согласованное форматирование

Убедитесь, что структура и форматирование примеров из нескольких примеров одинаковы, чтобы избежать ответов с нежелательным форматом. Одна из основных целей добавления примеров в подсказки — показать модели формат ответа. Поэтому очень важно обеспечить единообразный формат во всех примерах, особенно обращая внимание на теги XML, пробелы, символы новой строки и разделители примеров.

Добавить контекст

Вы можете включить в подсказку инструкции и информацию, необходимые модели для решения проблемы, вместо того, чтобы предполагать, что модель содержит всю необходимую информацию. Эта контекстная информация помогает модели понять ограничения и детали того, что вы от нее требуете.

В следующем примере модель запрашивает рекомендации по устранению неполадок маршрутизатора:

What should I do to fix my disconnected wifi? The light on my Google
Wifi router is yellow and blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem
  with the internet connection. Here are some steps to troubleshoot and fix the
  issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....
  

Ответ выглядит как общая информация по устранению неполадок, не относящаяся к маршрутизатору или состоянию светодиодных индикаторов.

Чтобы настроить ответ для конкретного маршрутизатора, вы можете добавить к запросу руководство по устранению неполадок маршрутизатора в качестве контекста, на который он будет ссылаться при предоставлении ответа.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.
  

Добавить префиксы

Префикс — это слово или фраза, которые вы добавляете к содержимому приглашения и которое может служить нескольким целям, в зависимости от того, где вы поместили префикс:

  • Входной префикс: добавление префикса к входным сигналам сигнализирует о семантически значимых частях входных данных модели. Например, префиксы «Английский:» и «Французский:» обозначают два разных языка.
  • Префикс вывода. Несмотря на то, что выходные данные создаются моделью, вы можете добавить префикс для выходных данных в приглашении. Выходной префикс предоставляет модели информацию о том, что ожидается в качестве ответа. Например, выходной префикс «JSON:» сигнализирует модели, что выходные данные должны быть в формате JSON.
  • Пример префикса. В подсказках с несколькими фрагментами добавление префиксов к примерам обеспечивает метки, которые модель может использовать при создании выходных данных, что упрощает анализ выходного содержимого.

В следующем примере «Текст:» — это входной префикс, а «Ответ:» — выходной префикс.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large
  

Разбейте подсказки на компоненты

В случаях использования, требующих сложных подсказок, вы можете помочь модели справиться с этой сложностью, разбив ее на более простые компоненты.

  1. Разбивайте инструкции: вместо множества инструкций в одной подсказке создайте по одной подсказке для каждой инструкции. Вы можете выбрать, какое приглашение обрабатывать на основе ввода пользователя.

  2. Цепочка подсказок. Для сложных задач, включающих несколько последовательных шагов, сделайте каждый шаг подсказкой и объедините подсказки в последовательность. В этой последовательной цепочке подсказок выходные данные одной подсказки в последовательности становятся входными данными для следующей подсказки. Вывод последнего приглашения в последовательности является окончательным выводом.

  3. Агрегация ответов. Агрегация — это когда вы хотите выполнить разные параллельные задачи с разными частями данных и агрегировать результаты для получения окончательного результата. Например, вы можете указать модели выполнить одну операцию с первой частью данных, выполнить другую операцию с остальными данными и агрегировать результаты.

Экспериментируйте с параметрами модели

Каждый вызов, который вы отправляете модели, включает значения параметров, которые управляют тем, как модель генерирует ответ. Модель может генерировать разные результаты для разных значений параметров. Поэкспериментируйте с различными значениями параметров, чтобы получить наилучшие значения для задачи. Параметры, доступные для разных моделей, могут отличаться. Наиболее распространенными параметрами являются следующие:

  1. Максимальное количество токенов вывода: указывает максимальное количество токенов, которые могут быть созданы в ответе. Токен состоит примерно из четырех символов. 100 токенов соответствуют примерно 60-80 словам.

  2. Температура: температура контролирует степень случайности при выборе токенов. Температура используется для выборки во время генерации ответа, которая происходит при применении topP и topK . Более низкие температуры хороши для подсказок, требующих более детерминированного или менее открытого ответа, в то время как более высокие температуры могут привести к более разнообразным или творческим результатам. Температура 0 является детерминированной, что означает, что всегда выбирается ответ с наибольшей вероятностью.

  3. topK : параметр topK изменяет способ выбора токенов моделью для вывода. Значение topK , равное 1, означает, что выбранный токен является наиболее вероятным среди всех токенов в словаре модели (также называемое жадным декодированием), а topK , равное 3, означает, что следующий токен выбирается из трех наиболее вероятных с использованием температуры. На каждом этапе выбора токена отбираются токены topK с наибольшей вероятностью. Затем токены дополнительно фильтруются на основе topP , причем последний токен выбирается с использованием температурной выборки.

  4. topP : параметр topP изменяет способ выбора токенов моделью для вывода. Токены выбираются от наиболее к наименее вероятным до тех пор, пока сумма их вероятностей не станет равна значению topP . Например, если токены A, B и C имеют вероятность 0,3, 0,2 и 0,1, а значение topP равно 0,5, то модель выберет A или B в качестве следующего токена, используя температуру, и исключит C как кандидата. Значение topP по умолчанию составляет 0,95.

  5. stop_sequences : установите последовательность остановки, чтобы сообщить модели о прекращении генерации контента. Последовательность остановки может представлять собой любую последовательность символов. Старайтесь избегать использования последовательности символов, которая может появиться в сгенерированном контенте.

Подскажите стратегии итерации

Иногда для быстрого проектирования может потребоваться несколько итераций, прежде чем вы последовательно получите желаемый ответ. В этом разделе представлены рекомендации по некоторым вещам, которые вы можете попробовать при повторении подсказок:

  1. Используйте разные формулировки. Использование разных слов или формулировок в подсказках часто приводит к разным ответам модели, хотя все они означают одно и то же. Если вы не получили ожидаемых результатов от подсказки, попробуйте перефразировать ее.

    Version 1:
    How do I bake a pie?
    
    Version 2:
    Suggest a recipe for a pie.
    
    Version 3:
    What's a good pie recipe?
      

  2. Переключитесь на аналогичную задачу: если вы не можете заставить модель следовать вашим инструкциям по выполнению задачи, попробуйте дать ей инструкции по аналогичной задаче, которая дает тот же результат.

    Это приглашение сообщает модели классифицировать книгу, используя предопределенные категории:

    Which category does The Odyssey belong to:
    thriller
    sci-fi
    mythology
    biography
      
        The Odyssey belongs to the category of **mythology**. 
    
        Here's why:
    
        * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
        journey home after the Trojan War. It features gods, monsters, and supernatural events common to
        Greek mythology.
    .....
      

    Ответ правильный, но модель не уложилась в рамки вариантов. Вы также хотите моделировать, чтобы просто отвечать одним из вариантов, а не полным предложением. В этом случае вы можете перефразировать инструкции в виде вопроса с несколькими вариантами ответов и попросить модель выбрать вариант.

    Multiple choice problem: Which of the following options describes the book The Odyssey?
    Options:

    • thriller
    • sci-fi
    • mythology
    • biography
    The correct answer is mythology. 
    
  3. Измените порядок содержимого подсказки. Порядок содержимого подсказки иногда может влиять на ответ. Попробуйте изменить порядок контента и посмотрите, как это повлияет на ответ.

    Version 1:
    [examples]
    [context]
    [input]
    
    Version 2:
    [input]
    [examples]
    [context]
    
    Version 3:
    [examples]
    [input]
    [context]
    

Резервные ответы

Резервный ответ — это ответ, возвращаемый моделью, когда подсказка или ответ запускает фильтр безопасности. Пример запасного ответа: «Я не могу с этим помочь, поскольку я всего лишь языковая модель».

Если модель отвечает аварийным ответом, попробуйте увеличить температуру.

Чего следует избегать

  • Не полагайтесь на модели для получения фактической информации.
  • Используйте с осторожностью при решении математических и логических задач.

Генеративные модели под капотом

Целью этого раздела является ответ на вопрос: есть ли случайность в ответах генеративных моделей или они детерминированы?

Короткий ответ – да для обоих. Когда вы запрашиваете генеративную модель, текстовый ответ генерируется в два этапа. На первом этапе генеративная модель обрабатывает входное приглашение и генерирует распределение вероятностей по возможным токенам (словам), которые, скорее всего, будут следующими. Например, если вы подскажете вводимый текст «Собака перепрыгнула через...», генеративная модель создаст массив возможных следующих слов:

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

Этот процесс является детерминированным; генеративная модель будет создавать одно и то же распределение каждый раз, когда вводится один и тот же текст подсказки.

На втором этапе генеративная модель преобразует эти распределения в реальные текстовые ответы с помощью одной из нескольких стратегий декодирования. Простая стратегия декодирования может выбирать наиболее вероятный токен на каждом временном шаге. Этот процесс всегда будет детерминированным. Однако вместо этого вы можете сгенерировать ответ путем случайной выборки из распределения, возвращаемого моделью. Этот процесс будет стохастическим (случайным). Управляйте степенью случайности, допустимой в этом процессе декодирования, путем установки температуры. Температура 0 означает, что выбраны только наиболее вероятные токены и нет случайности. И наоборот, высокая температура привносит высокую степень случайности в токены, выбранные моделью, что приводит к более неожиданным и удивительным реакциям модели.

Следующие шаги