प्राथमिकता के आधार पर अनुमान लगाना

Gemini Priority API, प्रीमियम इन्फ़रंस टियर है. इसे कारोबार के लिए ज़रूरी उन वर्कलोड के लिए डिज़ाइन किया गया है जिनमें इंतज़ार का समय कम होना चाहिए और भरोसेमंद परफ़ॉर्मेंस की ज़रूरत होती है. इसके लिए, प्रीमियम कीमत चुकानी पड़ती है. प्रायॉरिटी टियर के ट्रैफ़िक को, स्टैंडर्ड एपीआई और Flex टियर के ट्रैफ़िक से ज़्यादा प्राथमिकता दी जाती है.

प्राथमिकता अनुमान, Interactions API के सभी एंडपॉइंट पर उपलब्ध है.

प्राथमिकता का इस्तेमाल करने का तरीका

प्रायॉरिटी टियर का इस्तेमाल करने के लिए, अपने अनुरोध में service_tier फ़ील्ड को priority पर सेट करें. अगर फ़ील्ड को छोड़ दिया जाता है, तो डिफ़ॉल्ट टियर स्टैंडर्ड होता है.

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.6-flash",
    input="Triage this critical customer support ticket immediately.",
    service_tier='priority'
)
print(interaction.output_text)

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI({});

async function main() {
    const interaction = await ai.interactions.create({
        model: "gemini-3.6-flash",
        input: "Triage this critical customer support ticket immediately.",
        service_tier: "priority"
    });
    console.log(interaction.output_text);
}

await main();

curl -X POST "https://generativelanguage.googleapis.com/v1beta/interactions" \
  -H "Content-Type: application/json" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  -d '{
    "model": "gemini-3.6-flash",
    "input": "Triage this critical customer support ticket immediately.",
    "service_tier": "priority"
  }'

प्राथमिकता अनुमान कैसे काम करता है

प्राथमिकता इन्फ़रंस, अनुरोधों को हाई-क्रिटिकैलिटी वाले कंप्यूट क्यू में भेजता है. इससे, उपयोगकर्ता के लिए बने ऐप्लिकेशन के लिए, अनुमान के मुताबिक तेज़ परफ़ॉर्मेंस मिलती है. इसका मुख्य तरीका यह है कि डाइनैमिक सीमाओं से ज़्यादा ट्रैफ़िक होने पर, सर्वर-साइड पर स्टैंडर्ड प्रोसेसिंग में डाउनग्रेड किया जाता है. इससे अनुरोध फ़ेल होने के बजाय, ऐप्लिकेशन की स्थिरता बनी रहती है.

मुख्य फ़ायदे

• इंतज़ार का समय कम होना: इसे इंटरैक्टिव, उपयोगकर्ता के लिए बने एआई टूल के लिए, दूसरे रिस्पॉन्स टाइम के लिए डिज़ाइन किया गया है.
• भरोसेमंद परफ़ॉर्मेंस: ट्रैफ़िक को सबसे ज़्यादा प्राथमिकता दी जाती है और इसे कम नहीं किया जा सकता.
• अनुकूल गिरावट: डाइनैमिक सीमाओं से ज़्यादा ट्रैफ़िक होने पर, उसे प्रोसेस करने के लिए स्टैंडर्ड टियर में अपने-आप डाउनग्रेड कर दिया जाता है. इससे, सेवा में रुकावट नहीं आती.
• कम मुश्किल: स्टैंडर्ड और Flex टियर की तरह ही, सिंक्रोनस create तरीके का इस्तेमाल करता है.

इस्तेमाल के उदाहरण

प्रायॉरिटी प्रोसेसिंग, कारोबार के लिए ज़रूरी उन वर्कफ़्लो के लिए सही है जिनमें परफ़ॉर्मेंस और भरोसेमंद सेवा को सबसे ज़्यादा प्राथमिकता दी जाती है.

• इंटरैक्टिव एआई ऐप्लिकेशन: ग्राहक सेवा के चैटबॉट और कोपायलट. इनके लिए, उपयोगकर्ता प्रीमियम चुकाते हैं और उन्हें तेज़ और लगातार जवाब मिलने की उम्मीद होती है.
• रीयल-टाइम डिसिजन इंजन: ऐसे सिस्टम जिनमें भरोसेमंद और कम इंतज़ार के समय वाले नतीजों की ज़रूरत होती है. जैसे, लाइव टिकट ट्राइएज या धोखाधड़ी का पता लगाना.
• प्रीमियम ग्राहकों के लिए सुविधाएं: ऐसे डेवलपर जिन्हें पैसे चुकाने वाले ग्राहकों के लिए, बेहतर सर्विस लेवल ऑब्जेक्टिव (एसएलओ) की गारंटी देनी होती है.

दर की सीमाएं

प्रायॉरिटी के इस्तेमाल के लिए, दर की अपनी सीमाएं होती हैं. हालांकि, इसके इस्तेमाल को इंटरैक्टिव ट्रैफ़िक की दर की कुल सीमाओं में गिना जाता है. प्रायॉरिटी इन्फ़रंस के लिए, दर की डिफ़ॉल्ट सीमाएं मॉडल / टियर के लिए, दर की स्टैंडर्ड सीमा का 0.3 गुना होती हैं

अनुकूल डाउनग्रेड लॉजिक

अगर कंजेशन की वजह से, प्रायॉरिटी की सीमाएं पार हो जाती हैं, तो ओवरफ़्लो अनुरोधों को अपने-आप और आसानी से स्टैंडर्ड प्रोसेसिंग में डाउनग्रेड कर दिया जाता है. ऐसा 503 या 429 गड़बड़ी के साथ फ़ेल होने के बजाय किया जाता है. डाउनग्रेड किए गए अनुरोधों के लिए, प्रायॉरिटी की प्रीमियम दर के बजाय स्टैंडर्ड दर से बिल भेजा जाता है.

क्लाइंट की ज़िम्मेदारी

• रिस्पॉन्स की निगरानी करना: डेवलपर को एपीआई रिस्पॉन्स में, x-gemini-service-tier हेडर की निगरानी करनी चाहिए, ताकि यह पता लगाया जा सके कि अनुरोधों को बार-बार standard में डाउनग्रेड किया जा रहा है या नहीं.
• फिर से कोशिश करना: क्लाइंट को, स्टैंडर्ड गड़बड़ियों के लिए, फिर से कोशिश करने का लॉजिक/एक्सपोनेंशियल बैकऑफ़ लागू करना होगा, जैसे DEADLINE_EXCEEDED.

कीमत

प्रायॉरिटी इन्फ़रंस की कीमत, स्टैंडर्ड एपीआई से 75-100% ज़्यादा होती है. इसके लिए, हर टोकन के हिसाब से बिल भेजा जाता है.

इस्तेमाल किए जा सकने वाले मॉडल

प्रायॉरिटी इन्फ़रंस के लिए, ये मॉडल इस्तेमाल किए जा सकते हैं:

आगे क्या करना है

• लागत कम करने के लिए, Flex इन्फ़रंस का इस्तेमाल करना.
• टोकन: टोकन के बारे में जानकारी.