Konkludimi me përparësi

Gemini Priority API është një nivel i parashikimit premium i krijuar për ngarkesat e punës që janë kritike për biznesin që kërkojnë vonesë më të ulët dhe besueshmëri më të lartë me një çmim premium. Trafiku i nivelit të përparësisë ka përparësi ndaj trafikut të nivelit standard të API-së dhe Flex.

Konkludimi i përparësisë ofrohet për përdoruesit e nivelit 2 dhe nivelit 3 nëpër pikat fundore të API-së së "Gjenerimit të përmbajtjes" dhe API-së së "Ndërveprimeve".

Si të përdorësh "Përparësinë"

Për të përdorur nivelin e përparësisë, cakto fushën service_tier në trupin e kërkesës në priority. Niveli i parazgjedhur është standard nëse fusha hiqet.

from google import genai

client = genai.Client()

try:
    response = client.models.generate_content(
        model="gemini-3.8-flash",
        contents="Triage this critical customer support ticket immediately.",
        config={"service_tier": "priority"},
    )

    # Validate for graceful downgrade
    if response.sdk_http_response.headers.get("x-gemini-service-tier") == "standard":
        print("Warning: Priority limit exceeded, processed at Standard tier.")

    print(response.text)

except Exception as e:
    # Standard error handling (e.g., DEADLINE_EXCEEDED)
    print(f"Error during API call: {e}")

import {GoogleGenAI} from '@google/genai';

const ai = new GoogleGenAI({});

async function main() {
  try {
      const result = await ai.models.generateContent({
          model: "gemini-3.8-flash",
          contents: "Triage this critical customer support ticket immediately.",
          config: {serviceTier: "priority"},
      });

      // Validate for graceful downgrade
      if (result.sdkHttpResponse.headers.get("x-gemini-service-tier") === "standard") {
          console.log("Warning: Priority limit exceeded, processed at Standard tier.");
      }

      console.log(result.text);

  } catch (e) {
      console.log(`Error during API call: ${e}`);
  }
}

await main();

package main

import (
    "context"
    "fmt"
    "log"
    "google.golang.org/genai"
)

func main() {
    ctx := context.Background()
    client, err := genai.NewClient(ctx, nil)
    if err != nil {
        log.Fatal(err)
    }
    defer client.Close()

    resp, err := client.Models.GenerateContent(
        ctx,
        "gemini-3.8-flash",
        genai.Text("Triage this critical customer support ticket immediately."),
        &genai.GenerateContentConfig{
            ServiceTier: "priority",
        },
    )
    if err != nil {
        log.Fatalf("Error during API call: %v", err)
    }

    // Validate for graceful downgrade
    if resp.SDKHTTPResponse.Header.Get("x-gemini-service-tier") == "standard" {
        fmt.Println("Warning: Priority limit exceeded, processed at Standard tier.")
    }

    fmt.Println(resp.Text())
}

curl -X POST "https://generativelanguage.googleapis.com/v1beta/models/gemini-3.8-flash:generateContent?key=$GEMINI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
  "contents": [{
    "parts":[{"text": "Analyze user sentiment in real time"}]
  }],
  "service_tier": "priority"
}'

Si funksionon përfundimi për "Prioritetin"

Itineraret e përfundimeve me përparësi i drejtojnë kërkesat te radhët e llogaritjeve me nivel të lartë kritik, duke ofruar performancë të parashikueshme dhe të shpejtë për aplikacionet e përdoruesve. Mekanizmi i tij kryesor është një ulje e nivelit të shërbimit në anën e serverit në përpunimin standard për trafikun që tejkalon kufijtë dinamikë, duke siguruar stabilitetin e aplikacionit në vend që të dështojë kërkesa.

Përfitimet kryesore

• Vonesë e ulët: Projektuar për kohë përgjigjeje në sekonda për vegla interaktive të IA-së për përdoruesit.
• Besueshmëri e lartë: Trafiku trajtohet me nivelin më të lartë të kriticitetit dhe është rreptësisht i pandërprerë.
• Degradimi i butë: Rritjet e trafikut që tejkalojnë kufijtë dinamikë ulen automatikisht në nivelin "Standard" për përpunim në vend që të dështojnë, duke parandaluar ndërprerjet e shërbimit.
• Fërkimi i ulët: Përdor të njëjtën metodë sinkrone generateContent si nivelet standarde dhe Flex.

Rastet e përdorimit

Përpunimi me përparësi është ideal për flukset e punës që janë kritikë për biznesin ku performanca dhe besueshmëria janë parësore.

• Aplikacionet ndërvepruese të IA-së: Robotët bisedarë të shërbimit ndaj klientit dhe pilotët ndihmës ku përdoruesit paguajnë një tarifë premium dhe presin përgjigje të shpejta dhe të qëndrueshme.
• Motorët e vendimeve në kohë reale: Sistemet që kërkojnë rezultate shumë të besueshme me vonesë të ulët, si p.sh. triazhimi i biletave të drejtpërdrejta ose zbulimi i mashtrimeve.
• Veçoritë premium për klientët: Zhvilluesit që duhet të garantojnë objektiva më të lartë të nivelit të shërbimit (SLO) për klientët me pagesë.

Kufijtë e normës

Konsumimi me përparësi ka kufijtë e vet të normës edhe pse konsumimi llogaritet për kufijtë e normës së përgjithshme të trafikut interaktiv. Kufijtë e parazgjedhur të normës për përfundimin e "Përparësisë" janë 0,3 herë kufiri standard i normës për modelin / nivelin

Logjika e uljes normale të nivelit

Nëse kufijtë e "Prioritetit" tejkalohen për shkak të mbingarkesës, kërkesat e tepërta zbresin automatikisht dhe pa probleme në përpunim standard në vend që të dështojnë me një gabim 503 ose 429. Kërkesat e ulura në nivel tarifohen me tarifën standarde, jo me tarifën premium të përparësisë.

Përgjegjësia e klientit

• Monitorimi i përgjigjes: Zhvilluesit duhet të monitorojnë x-gemini-service-tier titullin në përgjigjen e API-së për të zbuluar nëse kërkesat po ulen shpesh në nivelin standard.
• Riprovat: Klientët duhet të zbatojnë logjikën e riprovës/kohën e pritjes eksponenciale për gabimet standarde, si p.sh. DEADLINE_EXCEEDED.

Çmimet

Përfundimi me përparësi ka një çmim 75-100% më të lartë se API-ja standarde dhe faturohet për çdo kod.

Modelet e mbështetura

Modelet e mëposhtme mbështesin përfundimin me përparësi:

Çfarë ka më pas

Lexo rreth opsioneve të tjera të përfundimit dhe optimizimit të Gemini:

• Deduksioni Flex për 50% ulje të kostos.
• Batch API për përpunim asinkron brenda 24 orëve.
• Ruajtja në memorien specifike e kontekstit për kosto të reduktuara të kodeve të hyrjes.