Gemini API, belirli iş yükü ihtiyaçlarınıza göre hızı, maliyeti ve güvenilirliği dengelemenize yardımcı olacak çeşitli optimizasyon mekanizmaları sunar. İster gerçek zamanlı sohbet botları oluşturuyor ister yoğun çevrimdışı veri işleme işlem hatları çalıştırıyor olun, doğru paradigmayı seçmek maliyetleri önemli ölçüde azaltabilir veya performansı artırabilir.
| Özellik | Standart | Yaratıcılığınızı | Öncelik | Toplu | Önbelleğe alma |
|---|---|---|---|---|---|
| Fiyatlandırma | Tam Fiyat | %50 indirim | Standarttan% 75 ila% 100 daha fazla | %50 indirim | %90 indirim + orantılı jeton depolama alanı |
| Gecikme | Saniyelerden dakikalara | Dakika (1-15 dakika hedef) | Saniye | En fazla 24 saat | İlk jetona kadar geçen sürenin kısalması |
| Güvenilirlik | Yüksek / Yüksek-orta | En iyi sonuç (Sheddable) | Yüksek (tüy dökmeyen) | Yüksek (işleme hızı için) | Yok |
| Arayüz | Eşzamanlı | Eşzamanlı | Eşzamanlı | Eşzamansız | Kaydedilmiş durum |
| En iyi kullanım alanı | Genel uygulama iş akışları | Acil olmayan sıralı zincirler | Üretim, kullanıcıya yönelik uygulamalar | Büyük veri kümeleri, çevrimdışı değerlendirmeler | Aynı dosya üzerinde yinelenen sorgular |
Çıkarım hizmet katmanları (Senkron)
Standart oluşturma çağrılarınızda service_tier parametresini ileterek güvenilirlik için optimize edilmiş ve maliyet için optimize edilmiş senkron trafik arasında geçiş yapabilirsiniz.
Standart çıkarım (varsayılan)
Standart katman, sıralı içerik üretme için varsayılan seçenektir. Ek primler veya yoğun kuyruklar olmadan normal yanıt süreleri sağlar.
- Güvenilirlik: Standart önem düzeyi
- Fiyat: Standart fiyatlandırma.
- En uygun kullanım alanı: En etkileşimli günlük uygulamalar.
Öncelikli çıkarım (gecikme için optimize edilmiş)
Öncelikli işleme, isteklerinizi yüksek önem dereceli bilgi işlem kuyruklarına yönlendirir. Bu trafik kesinlikle kesintiye uğratılamaz (diğer katmanlar tarafından asla önceliklendirilmez) ve en yüksek güvenilirliği sunar. Dinamik öncelik sınırlarını aşarsanız sistem, isteği hata vererek başarısız olmak yerine sorunsuz bir şekilde standart işleme düşürür.
- Güvenilirlik: En yüksek önem düzeyi
- Fiyat: Standart ücretlerin% 75 ila% 100'ü.
- En uygun kullanım alanları: Müşteri sohbet botları, gerçek zamanlı sahtekarlık tespiti ve işletme açısından kritik öneme sahip yardımcılar.
Flex çıkarımı (maliyet açısından optimize edilmiş)
Flex çıkarımı, fırsatçı ve yoğun olmayan saatlerdeki bilgi işlem kapasitesini kullanarak standart ücretlere kıyasla% 50 indirim sunar. İstekler eşzamanlı olarak işlenir. Bu nedenle, toplu nesneleri yönetmek için kodu yeniden yazmanız gerekmez. Bu trafik "atılabilir" trafik olduğundan, sistemde standart trafik artışları yaşanırsa istekler öncelikli olarak işlenebilir.
- Güvenilirlik: Garanti edilmeyen, kritiklik düzeyi düşürülebilir
- Fiyat: Standart fiyatlandırmanın% 50'si (jeton başına faturalandırılır).
- En uygun olduğu durumlar: N+1 çağrısının N çağrısının çıkışına, arka plandaki CRM güncellemelerine ve çevrimdışı değerlendirmelere bağlı olduğu çok adımlı ajan tabanlı iş akışları.
Batch API (Toplu, eşzamansız)
Batch API, büyük hacimli istekleri standart maliyetin% 50'siyle eşzamansız olarak işlemek üzere tasarlanmıştır. İstekleri satır içi sözlükler olarak veya JSONL giriş dosyası (en fazla 2 GB) kullanarak gönderebilirsiniz. İstekleri, 24 saatlik hedef yanıt süresiyle arka plan işleme hızına sahip kuyrukları kullanarak işler.
- Güvenilirlik: 24 saatlik otomatik yeniden deneme ve kuyruk sistemi ile dökülebilir
- Fiyat: Standart fiyatlandırmanın% 50'si.
- En uygun olduğu durumlar: Büyük veri kümelerini önceden işleme, düzenli regresyon test paketleri çalıştırma ve yüksek hacimli resim veya yerleştirme oluşturma.
Bağlamı önbelleğe alma (Giriş tasarrufu)
Bağlamı önbelleğe alma özelliği, önemli bir ilk bağlama kısa isteklerle tekrar tekrar başvurulduğunda kullanılır.
- Örtülü önbelleğe alma: Gemini 2.5 ve daha yeni modellerde otomatik olarak etkinleştirilir. İsteğiniz, yaygın istem ön eklerine göre mevcut önbelleklerle eşleşirse sistem maliyet tasarrufu sağlar.
- Açık Önbelleğe Alma: Belirli bir geçerlilik süresine (TTL) sahip bir önbellek nesnesini manuel olarak oluşturabilirsiniz. Oluşturulduktan sonra, aynı gövde yükünün tekrar tekrar iletilmesini önlemek için sonraki isteklerde önbelleğe alınmış jetonlara başvurursunuz.
- Fiyat: Önbellek jetonu sayısına ve depolama süresine (TTL) göre faturalandırılır.
- En uygun olduğu durumlar: Kapsamlı sistem talimatları içeren chatbot'lar, uzun video dosyalarının tekrarlanan analizi veya büyük doküman kümeleriyle ilgili sorgular.
Temsilci tabanlı işleme ile video giriş maliyetlerini azaltma
Uzun video içeriklerinde, agentic işleme yanıt kalitesini artırırken giriş jetonu maliyetlerini% 88'e kadar azaltabilir. Model, her kareyi 1 FPS'de (statik işleme) ayıklamak yerine videoda dinamik olarak arama yapar, isteminizle alakalı transkripti ve/veya kareleri ve/veya sesi yükler. Gecikmenin kritik olduğu kısa kliplerde (5 dakikadan kısa) statik işleme, üretken modda üretimin başlamasından önce dahili akıl yürütme ve araç gidiş dönüşleri yapıldığından ilk jetona kadar geçen süreyi (TTFT) kısaltabilir.
Gemini 3.8 Flash, 3.6 Flash veya 3.5 Flash Lite ile aracı tabanlı işlemeyi kullanmak için video girişinizde processing: "agentic" (Interactions API) veya media_processing: "AGENTIC" (GenerateContent API) değerini ayarlayın. Model, aracı tabanlı işlemeyi desteklemiyorsa hata döndürür.
Kod örnekleri için Agentic video understanding (Agent tabanlı video anlama) bölümüne bakın.