Приоритет

Gemini Priority API – это уровень вывода премиум-класса, предназначенный для критически важных рабочих нагрузок, требующих низкой задержки и высокой надежности. Он доступен по более высокой цене. Трафик уровня приоритета имеет приоритет над трафиком стандартного API и уровня Flex.

Определение приоритета доступно пользователям уровня 2 и 3 в конечных точках GenerateContent API и Interactions API.

Как использовать приоритет

Чтобы использовать уровень "Приоритетный", задайте для поля service_tier в теле запроса значение priority. Если поле не указано, по умолчанию используется стандартный уровень.

from google import genai

client = genai.Client()

try:
    response = client.models.generate_content(
        model="gemini-3.8-flash",
        contents="Triage this critical customer support ticket immediately.",
        config={"service_tier": "priority"},
    )

    # Validate for graceful downgrade
    if response.sdk_http_response.headers.get("x-gemini-service-tier") == "standard":
        print("Warning: Priority limit exceeded, processed at Standard tier.")

    print(response.text)

except Exception as e:
    # Standard error handling (e.g., DEADLINE_EXCEEDED)
    print(f"Error during API call: {e}")

import {GoogleGenAI} from '@google/genai';

const ai = new GoogleGenAI({});

async function main() {
  try {
      const result = await ai.models.generateContent({
          model: "gemini-3.8-flash",
          contents: "Triage this critical customer support ticket immediately.",
          config: {serviceTier: "priority"},
      });

      // Validate for graceful downgrade
      if (result.sdkHttpResponse.headers.get("x-gemini-service-tier") === "standard") {
          console.log("Warning: Priority limit exceeded, processed at Standard tier.");
      }

      console.log(result.text);

  } catch (e) {
      console.log(`Error during API call: ${e}`);
  }
}

await main();

package main

import (
    "context"
    "fmt"
    "log"
    "google.golang.org/genai"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }
    defer client.Close()

    resp, err := client.Models.GenerateContent(
        ctx,
        "gemini-3.8-flash",
        genai.Text("Triage this critical customer support ticket immediately."),
        &genai.GenerateContentConfig{
            ServiceTier: "priority",
        },
    )
    if err != nil {
        log.Fatalf("Error during API call: %v", err)
    }

    // Validate for graceful downgrade
    if resp.SDKHTTPResponse.Header.Get("x-gemini-service-tier") == "standard" {
        fmt.Println("Warning: Priority limit exceeded, processed at Standard tier.")
    }

    fmt.Println(resp.Text())
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent?key=$GEMINI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
  "contents": [{
    "parts":[{"text": "Analyze user sentiment in real time"}]
  }],
  "service_tier": "priority"
}'

Как работает определение приоритета

Запросы с приоритетом перенаправляются в очереди с высокой критичностью, что обеспечивает предсказуемую и быструю работу приложений, ориентированных на пользователей. Основной механизм работы функции – это плавный переход на стандартную обработку трафика, превышающего динамические лимиты, на стороне сервера. Это позволяет обеспечить стабильность приложения, а не отклонять запрос.

Основные преимущества

• Низкая задержка. Предназначено для интерактивных пользовательских ИИ-инструментов, которые должны отвечать в течение нескольких секунд.
• Высокая надежность. Трафик обрабатывается с максимальной критичностью и не может быть отброшен.
• Постепенное снижение производительности. Если трафик превышает динамические лимиты, он автоматически переводится на стандартный уровень обработки, а не отклоняется, что позволяет избежать сбоев в работе сервиса.
• Простота использования. Используется тот же синхронный метод generateContent, что и для уровней Standard и Flex.

Примеры использования

Приоритетная обработка идеально подходит для критически важных рабочих процессов, где производительность и надежность имеют первостепенное значение.

• Интерактивные приложения на основе ИИ. Чат-боты и помощники для службы поддержки клиентов, где пользователи платят за подписку и ожидают быстрых и последовательных ответов.
• Системы принятия решений в реальном времени. Системы, требующие высокой надежности и низкой задержки, например для сортировки заявок в реальном времени или обнаружения мошенничества.
• Функции для премиум-клиентов. Разработчики, которым нужно гарантировать более высокие целевые показатели уровня обслуживания (SLO) для платных клиентов.

Ограничение частоты запросов

Для приоритетного потребления действуют собственные ограничения частоты запросов, хотя оно и учитывается в общем лимите интерактивного трафика. Ограничения по умолчанию для приоритетного вывода – 0,3x стандартного ограничения для модели или уровня.

Логика постепенного сокращения

Если лимиты приоритета превышены из-за перегрузки, запросы, превышающие лимит, автоматически и корректно понижаются до стандартной обработки, а не завершаются с ошибкой 503 или 429. Запросы, которые были понижены, оплачиваются по стандартной ставке, а не по премиум-ставке для приоритетных запросов.

Ответственность клиента

• Мониторинг ответов. Разработчикам следует отслеживать x-gemini-service-tierзаголовок в ответе API, чтобы определить, часто ли запросы понижаются до standard.
• Повторные попытки. Клиенты должны реализовать логику повторных попыток или экспоненциальную выдержку для стандартных ошибок, например DEADLINE_EXCEEDED.

Цены

Вывод с приоритетом стоит на 75–100% дороже, чем стандартный API, и оплачивается за токен.

Поддерживаемые модели

Приоритетный вывод поддерживают следующие модели:

Дальнейшие действия

Узнайте больше о других вариантах вывода и оптимизации Gemini:

• Гибкий инференс для снижения расходов на 50 %.
• Batch API для асинхронной обработки в течение 24 часов.
• Кэширование контекста для снижения стоимости входных токенов.