استنباط اولویت

Gemini Priority API یک سطح استنتاج ممتاز است که برای حجم‌های کاری حیاتی کسب‌وکار طراحی شده است که به تأخیر کمتر و بالاترین قابلیت اطمینان با قیمت ممتاز نیاز دارند. ترافیک سطح اولویت بالاتر از ترافیک سطح Flex و میانای برنامه‌سازی کاربردی استاندارد اولویت‌بندی می‌شود.

استنباط اولویت‌دار در سراسر نقاط پایانی «میانای برنامه‌سازی کاربردی تعاملات» دردسترس است.

نحوه استفاده از «اولویت»

برای استفاده از سطح «اولویت»، فیلد service_tier را در درخواستتان روی priority تنظیم کنید. اگر فیلد حذف شود، سطح پیش‌فرض استاندارد است.

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.8-flash",
    input="Triage this critical customer support ticket immediately.",
    service_tier='priority'
)
print(interaction.output_text)

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI({});

async function main() {
    const interaction = await ai.interactions.create({
        model: "gemini-3.8-flash",
        input: "Triage this critical customer support ticket immediately.",
        service_tier: "priority"
    });
    console.log(interaction.output_text);
}

await main();

import com.google.genai.Client;
import com.google.genai.gaos.models.interactions.CreateModelInteraction;
import com.google.genai.gaos.models.interactions.Interaction;
import com.google.genai.gaos.models.interactions.InteractionsInput;
import com.google.genai.gaos.models.interactions.Model;
import com.google.genai.gaos.models.interactions.ServiceTier;
import com.google.genai.gaos.models.operations.CreateInteractionRequestBody;

Client client = new Client();

CreateModelInteraction params =
    CreateModelInteraction.builder()
        .model(Model.of("gemini-3.8-flash"))
        .input(InteractionsInput.of("Perform a priority inference task."))
        .serviceTier(ServiceTier.PRIORITY)
        .build();

Interaction interaction =
    client.interactions.create(CreateInteractionRequestBody.of(params)).interaction().get();

System.out.println(interaction.outputText().orElse(""));

package main

import (
    "context"
    "fmt"
    "log"

    "google.golang.org/genai"
    "google.golang.org/genai/interactions/models/interactions"
    "google.golang.org/genai/interactions/models/operations"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }

    res, err := client.Interactions.Create(ctx, operations.CreateInteractionRequest{
        Body: operations.NewCreateInteractionRequestBody(interactions.CreateModelInteraction{
            Model:       interactions.Model("gemini-3.8-flash"),
            Input:       interactions.NewInteractionsInput("Perform a priority inference task."),
            ServiceTier: interactions.ServiceTierPriority.ToPointer(),
        }),
    })
    if err != nil {
        log.Fatal(err)
    }
    if res.Interaction.OutputText != nil {
        fmt.Println(*res.Interaction.OutputText)
    }
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "Content-Type: application/json" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -d '{
    "model": "gemini-3.8-flash",
    "input": "Triage this critical customer support ticket immediately.",
    "service_tier": "priority"
  }'

نحوه عملکرد استنتاج «اولویت»

استنتاج اولویت‌دار درخواست‌ها را به صف‌های محاسباتی با اهمیت بالا هدایت می‌کند و عملکردی قابل‌پیش‌بینی و سریع برای برنامه‌های سَمت کاربر ارائه می‌دهد. سازوکار اصلی آن تنزل تدریجی سمت سرور به پردازش استاندارد برای ترافیکی است که از محدودیت‌های پویا فراتر می‌رود، که این امر پایداری برنامه را به‌جای رد کردن درخواست تضمین می‌کند.

مزایای کلیدی

• تأخیر کم: برای زمان‌های پاسخ ثانیه‌ای برای ابزارهای هوش مصنوعی تعاملی و کاربرپسند طراحی شده است.
• قابلیت اطمینان بالا: ترافیک با بالاترین سطح اهمیت حیاتی درنظر گرفته می‌شود و به‌هیچ‌وجه نباید حذف شود.
• تنزل متین: جهش‌های ترافیکی که از حدود پویا فراتر می‌روند، به‌جای اینکه ناموفق شوند، به‌طور خودکار به سطح «استاندارد» برای پردازش تنزل می‌یابند تا از قطعی سرویس جلوگیری شود.
• اصطکاک کم: از همان روش هم‌زمان create به‌عنوان سطوح استاندارد و Flex استفاده می‌کند.

موارد استفاده

پردازش اولویت‌دار برای گردش کارهای حیاتی کسب‌وکار که در آن‌ها عملکرد و قابلیت اطمینان اهمیت زیادی دارد ایده‌آل است.

• برنامه‌های هوش مصنوعی تعاملی: روبات‌های گپ خدمات مشتری و دستیارهای هوش مصنوعی که در آن‌ها کاربران هزینه ممتاز پرداخت می‌کنند و انتظار دارند پاسخ‌های سریع و یکنواخت دریافت کنند.
• موتورهای تصمیم‌گیری هم‌زمان: سیستم‌هایی که به نتایج بسیار قابل‌اعتماد و با تأخیر کم نیاز دارند، مانند اولویت‌بندی زنده درخواست‌های پشتیبانی یا تشخیص کلاهبرداری.
• ویژگی‌های مشتری ممتاز: توسعه‌دهندگانی که باید اهداف سطح خدمات (SLO) بالاتری را برای مشتریان پولی تضمین کنند.

محدودیت‌های نرخ

مصرف اولویت‌دار حد نرخ خودش را دارد، هرچند که مصرف در حد نرخ ترافیک تعاملی کلی حساب می‌شود. حدود نرخ پیش‌فرض برای استنباط «اولویت‌دار» ۰٫۳ برابر حد نرخ استاندارد برای «مدل / سطح» است

منطق تنزل ایمن

اگر محدودیت‌های «اولویت» به‌دلیل ازدحام فراتر رود، درخواست‌های سرریز به‌جای ناموفق شدن با خطای ۵۰۳ یا ۴۲۹، به‌طور خودکار و به‌آرامی به پردازش «استاندارد» تنزل می‌یابند. درخواست‌های تنزل‌یافته با نرخ استاندارد صورت‌حساب می‌شوند، نه نرخ ممتاز «اولویت».

مسئولیت کارخواه

• پایش پاسخ: توسعه‌دهندگان باید x-gemini-service-tier سرایند در پاسخ API را پایش کنند تا تشخیص دهند آیا درخواست‌ها به‌طور مکرر به standard تنزل داده می‌شوند یا نه.
• تلاش‌های مجدد: کارخواه‌ها باید منطق تلاش مجدد/پس‌گیری نمایی را برای خطاهای استاندارد، مثل DEADLINE_EXCEEDED، پیاده‌سازی کنند.

قیمت‌گذاری

قیمت استنباط اولویت ۷۵ تا ۱۰۰٪ بیشتر از میانای برنامه‌سازی کاربردی استاندارد است و براساس تعداد نشان صورت‌حساب می‌شود.

مدل‌های پشتیبانی‌شده

مدل‌های زیر از استنتاج «اولویت‌دار» پشتیبانی می‌کنند:

قدم بعدی چیست

• استنتاج انعطاف‌پذیر برای کاهش هزینه.
• کدها: با کدها آشنا شوید.