הסקת עדיפות

תיאור: איך משפרים את זמן האחזור באמצעות רמת ההסקה Priority ב-Interactions API

‫Gemini Priority API הוא שירות פרימיום להסקת מסקנות שמיועד לעומסי עבודה קריטיים לעסק שדורשים זמן אחזור קצר יותר ואמינות גבוהה במיוחד, במחיר שנקבע. תעבורת הנתונים ברמת Priority מקבלת עדיפות על פני תעבורת הנתונים ב-API הרגיל וברמת Flex.

הסקת עדיפות זמינה בכל נקודות הקצה של Interactions API.

איך משתמשים בעדיפות

כדי להשתמש ברמת העדיפות Priority, מגדירים את השדה service_tier בבקשה לערך priority. אם לא מציינים את השדה, רמת ברירת המחדל היא Standard.

Python

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.8-flash",
    input="Triage this critical customer support ticket immediately.",
    service_tier='priority'
)
print(interaction.output_text)

JavaScript

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI({});

async function main() {
    const interaction = await ai.interactions.create({
        model: "gemini-3.8-flash",
        input: "Triage this critical customer support ticket immediately.",
        service_tier: "priority"
    });
    console.log(interaction.output_text);
}

await main();

Java

import com.google.genai.Client;
import com.google.genai.gaos.models.interactions.CreateModelInteraction;
import com.google.genai.gaos.models.interactions.Interaction;
import com.google.genai.gaos.models.interactions.InteractionsInput;
import com.google.genai.gaos.models.interactions.Model;
import com.google.genai.gaos.models.interactions.ServiceTier;
import com.google.genai.gaos.models.operations.CreateInteractionRequestBody;

Client client = new Client();

CreateModelInteraction params =
    CreateModelInteraction.builder()
        .model(Model.of("gemini-3.8-flash"))
        .input(InteractionsInput.of("Perform a priority inference task."))
        .serviceTier(ServiceTier.PRIORITY)
        .build();

Interaction interaction =
    client.interactions.create(CreateInteractionRequestBody.of(params)).interaction().get();

System.out.println(interaction.outputText().orElse(""));

Go

package main

import (
    "context"
    "fmt"
    "log"

    "google.golang.org/genai"
    "google.golang.org/genai/interactions/models/interactions"
    "google.golang.org/genai/interactions/models/operations"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }

    res, err := client.Interactions.Create(ctx, operations.CreateInteractionRequest{
        Body: operations.NewCreateInteractionRequestBody(interactions.CreateModelInteraction{
            Model:       interactions.Model("gemini-3.8-flash"),
            Input:       interactions.NewInteractionsInput("Perform a priority inference task."),
            ServiceTier: interactions.ServiceTierPriority.ToPointer(),
        }),
    })
    if err != nil {
        log.Fatal(err)
    }
    if res.Interaction.OutputText != nil {
        fmt.Println(*res.Interaction.OutputText)
    }
}

REST

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "Content-Type: application/json" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -d '{
    "model": "gemini-3.8-flash",
    "input": "Triage this critical customer support ticket immediately.",
    "service_tier": "priority"
  }'

איך פועלת הסקת העדיפות

הסקה בעדיפות גבוהה מפנה בקשות לתורים של משאבי מחשוב קריטיים, וכך מספקת ביצועים מהירים וצפויים לאפליקציות שגלויות למשתמשים. המנגנון העיקרי שלו הוא שדרוג לאחור בצד השרת לעיבוד רגיל של תנועה שחורגת מהמגבלות הדינמיות, כדי להבטיח את יציבות האפליקציה במקום שהבקשה תיכשל.

תכונה עדיפות רגיל שרירים של סלע Batch
תמחור 75%-100% יותר מבתוכנית Standard מחיר מלא 50% הנחה הנחה של 50%
זמן אחזור שניות שניות לדקות דקות (יעד של 1-15 דקות) עד 24 שעות
אמינות גבוהה (לא ניתנת להפחתה) גבוהה / בינונית-גבוהה המאמץ הטוב ביותר (ניתן להסרה) גבוה (לתפוקה)
ממשק סינכרוני סינכרוני סינכרוני אסינכרוני

יתרונות עיקריים

  • זמן אחזור קצר: מיועד לזמני תגובה של שניות לכלי AI אינטראקטיביים שגלויים למשתמשים.
  • מהימנות גבוהה: התנועה מקבלת את רמת הקריטיות הגבוהה ביותר, והיא לא ניתנת להפחתה.
  • הורדה הדרגתית של רמת השירות: אם יש עליות פתאומיות בתנועה שחורגות מהמגבלות הדינמיות, רמת השירות משתנה אוטומטית לרמה רגילה לצורך עיבוד, במקום שהעיבוד ייכשל. כך נמנעות הפסקות בשירות.
  • חיכוך נמוך: משתמש באותה שיטה סינכרונית של create כמו ברמות Standard ו-Flex.

תרחישים לדוגמה

עיבוד בעדיפות גבוהה מתאים במיוחד לתהליכי עבודה קריטיים לעסק, שבהם הביצועים והאמינות הם בעלי חשיבות עליונה.

  • אפליקציות אינטראקטיביות מבוססות-AI: צ'אטבוטים וטייסים וירטואליים לשירות לקוחות, שבהם המשתמשים משלמים מחיר פרימיום ומצפים לתשובות מהירות ועקביות.
  • מנועי קבלת החלטות בזמן אמת: מערכות שדורשות תוצאות אמינות מאוד עם זמן אחזור קצר, כמו מיון פניות בזמן אמת או זיהוי הונאות.
  • תכונות פרימיום ללקוחות: מפתחים שצריכים להבטיח יעדים גבוהים יותר למדידת רמת השירות (SLO) ללקוחות משלמים.

מגבלות קצב

לצריכה בעדיפות גבוהה יש מגבלות קצב משלה, למרות שהצריכה נספרת כחלק ממגבלות הקצב הכוללות של תנועה אינטראקטיבית. מגבלות הקצב שמוגדרות כברירת מחדל להסקת עדיפות הן 0.3x ממגבלת הקצב הרגילה למודל או לרמה.

לוגיקה של שדרוג לאחור בצורה חלקה

אם חורגים מהמגבלות של Priority בגלל עומס, בקשות עודפות משונמכות באופן אוטומטי ובצורה חלקה לעיבוד Standard, במקום להיכשל עם שגיאה 503 או 429. בקשות ששודרגו לא יחויבו בתעריף הפרימיום של Priority, אלא בתעריף הרגיל.

באחריות הלקוח

  • מעקב אחרי התגובות: המפתחים צריכים לעקוב אחרי הכותרת x-gemini-service-tier בתגובה מה-API כדי לזהות אם הבקשות משונמכות לעיתים קרובות ל-standard.
  • ניסיונות חוזרים: הלקוחות צריכים להטמיע לוגיקה של ניסיונות חוזרים או השהיה מעריכית לפני ניסיון חוזר (exponential backoff) לשגיאות סטנדרטיות, כמו DEADLINE_EXCEEDED.

תמחור

המחיר של הסקת עדיפות גבוה ב-75% עד 100% מהמחיר של ה-API הרגיל, והחיוב הוא לכל אסימון.

מודלים נתמכים

המודלים הבאים תומכים בהסקת מסקנות בעדיפות גבוהה:

מודל הסקת עדיפות
Gemini 4 Argon ✔️
‫Gemini 3.8 Flash ✔️
‫Gemini 3.6 Flash ✔️
Gemini 3.5 Flash-Lite ✔️
Gemini 3.1 Flash-Lite ✔️
גרסת טרום-השקה של Gemini 3.1 Pro ✔️
Gemini 3 Flash Preview ✔️
Gemini 2.5 Pro ✔️
‫Gemini 2.5 Flash ✔️
Gemini 2.5 Flash-Lite ✔️

המאמרים הבאים