Gemini API, belirli iş yükü ihtiyaçlarınıza göre hızı, maliyeti ve güvenilirliği dengelemenize yardımcı olacak çeşitli optimizasyon mekanizmaları sunar. İster gerçek zamanlı sohbet botları oluşturun ister ağır çevrimdışı veri işleme ardışık düzenleri çalıştırın, doğru paradigmayı seçmek maliyetleri önemli ölçüde azaltabilir veya performansı artırabilir.
| Özellik | Standart | Yaratıcılığınızı | Öncelik | Toplu | Önbelleğe alma |
|---|---|---|---|---|---|
| Fiyatlandırma | Tam Fiyat | %50 indirim | Standarttan% 75 ila% 100 daha fazla | %50 indirim | %90 indirim + Orantılı jeton depolama alanı |
| Gecikme | Saniyelerden dakikalara | Dakika (1-15 dakikalık hedef) | Saniye | En fazla 24 saat | İlk jetona kadar geçen süre daha kısadır. |
| Güvenilirlik | Yüksek / Orta-yüksek | En iyi sonuç (Sheddable) | Yüksek (tüy dökmeyen) | Yüksek (işleme hızı için) | Yok |
| Arayüz | Eşzamanlı | Eşzamanlı | Eşzamanlı | Eşzamansız | Kaydedilmiş durum |
| En iyi kullanım alanı | Genel uygulama iş akışları | Acil olmayan sıralı zincirler | Üretim, kullanıcılara yönelik uygulamalar | Devasa veri kümeleri, çevrimdışı değerlendirmeler | Aynı dosya üzerinde yinelenen sorgular |
Çıkarım hizmeti katmanları (eşzamanlı)
Standart oluşturma çağrılarınızda service_tier parametresini ileterek güvenilirlik için optimize edilmiş ve maliyet için optimize edilmiş eşzamanlı trafik arasında geçiş yapabilirsiniz.
Standart çıkarım (varsayılan)
Standart katman, sıralı içerik üretimi için varsayılan seçenektir. Ek ücret veya uzun bekleme süreleri olmadan normal yanıt süreleri sunar.
- Güvenilirlik: Standart kritiklik
- Fiyat: Standart fiyatlandırma.
- En uygun kullanım alanı: En etkileşimli günlük uygulamalar.
Öncelikli çıkarım (gecikme için optimize edilmiş)
Öncelikli işleme, isteklerinizi yüksek öncelikli işlem sıralarına yönlendirir. Bu trafik kesinlikle kesintiye uğratılamaz (diğer katmanlar tarafından hiçbir zaman öncelik verilmez) ve en yüksek güvenilirliği sunar. Dinamik öncelik sınırlarını aşarsanız sistem, hata vererek başarısız olmak yerine isteği standart işleme düzeyine düşürür.
- Güvenilirlik: En yüksek önem düzeyi
- Fiyat: Standart ücretlerin% 75 ila% 100 fazlası.
- En uygun kullanım alanları: Müşteri sohbet botları, gerçek zamanlı sahtekarlık tespiti ve işletme için kritik yardımcı pilotlar.
Flex çıkarımı (maliyet açısından optimize edilmiş)
Flex çıkarımı, yoğun olmayan saatlerdeki boşta kalan işlem kapasitesini kullanarak standart ücretlere kıyasla% 50 indirim sunar. İstekler eşzamanlı olarak işlenir. Bu nedenle, toplu nesneleri yönetmek için kodu yeniden yazmanız gerekmez. Bu trafik "atılabilir" trafik olduğundan, sistemde standart trafik artışları yaşanırsa istekler öncelikli olarak işlenebilir.
- Güvenilirlik: Garanti edilmeyen, kritiklik düzeyi düşürülebilir
- Fiyat: Standart fiyatlandırmanın% 50'si (jeton başına faturalandırılır).
- En uygun kullanım alanı: N+1 çağrısının N çağrısının çıkışına bağlı olduğu çok adımlı temsilci iş akışları, arka plan CRM güncellemeleri ve çevrimdışı değerlendirmeler.
Batch API (Toplu, eşzamansız)
Batch API, büyük hacimli istekleri standart maliyetin% 50'si karşılığında eşzamansız olarak işlemek için tasarlanmıştır. İstekleri satır içi sözlük olarak veya JSONL giriş dosyası (en fazla 2 GB) kullanarak gönderebilirsiniz. İstekleri, 24 saatlik hedef geri dönüş süresiyle arka plan işleme hızı sıralarını kullanarak işler.
- Güvenilirlik: 24 saatlik otomatik yeniden deneme ve kuyruk sistemi ile dökülebilir
- Fiyat: Standart fiyatlandırmanın% 50'si.
- En uygun olduğu durumlar: Büyük veri kümelerini önceden işleme, periyodik regresyon testi paketlerini çalıştırma ve yüksek hacimli görüntü veya yerleştirme oluşturma.
Bağlamı önbelleğe alma (Giriş tasarrufu)
Bağlamı önbelleğe alma özelliği, önemli bir ilk bağlama kısa isteklerle tekrar tekrar başvurulduğunda kullanılır.
- Dolaylı önbelleğe alma: Gemini 2.5 ve daha yeni modellerde otomatik olarak etkinleştirilir. İsteğiniz, ortak istem ön eklerine dayalı mevcut önbelleklerle eşleşirse sistem maliyet tasarrufu sağlar.
- Açık Önbelleğe Alma: Belirli bir geçerlilik süresine (TTL) sahip bir önbellek nesnesini manuel olarak oluşturabilirsiniz. Oluşturulduktan sonra, aynı derlem yükünü tekrar tekrar iletmemek için sonraki isteklerde önbelleğe alınmış jetonlara başvurursunuz. Gemini 4 Argon ve sonraki sürümlerde açıkça önbelleğe alma desteklenmez.
- Fiyat: Önbelleğe alınan jeton sayısına ve depolama süresine (TTL) göre faturalandırılır.
- En uygun kullanım alanları: Kapsamlı sistem talimatları içeren chatbot'lar, uzun video dosyalarının tekrarlanan analizleri veya büyük belge kümeleriyle ilgili sorgular.
Temsilci tabanlı işleme ile video giriş maliyetlerini azaltma
Uzun video içeriklerinde (5-10 dakikadan uzun) veya hedeflenmiş sorgularda, yapay zeka aracılı işleme, giriş jetonu maliyetlerini% 88'e kadar azaltırken yanıt kalitesini artırabilir. Varsayılan olarak tüm modeller (Gemini 4 dahil), kareleri 1 FPS'de ayıklamak için statik işleme kullanır. Aksiyon odaklı video anlama özelliği sayesinde model, önce video transkriptini inceler ve yalnızca gerektiğinde görsel segmentleri daha yüksek kare hızlarında ve çözünürlüklerde dinamik olarak yükler. Kısa klipler (5 dakikadan kısa) veya geniş kapsamlı tam video özetleri için varsayılan statik işleme modunu koruyarak ilk jetona kadar geçen süreyi (TTFT) kısaltın ve jeton ek yükünü azaltın. Ajan modunda, zaman çizelgesinde gezinirken dahili akıl yürütme (total_thought_tokens) ve araç gidiş-dönüşleri (total_tool_use_tokens) yapılır.
Gemini 4 Argon, 3.8 Flash, 3.6 Flash veya 3.5 Flash Lite ile temsilci tabanlı işlemeyi kullanmak için video girişinizde processing: "agentic" (Interactions API) veya media_processing: "AGENTIC" (GenerateContent API) ayarını yapın. Model, aracı tabanlı işlemeyi desteklemiyorsa hata döndürür.
Daha fazla bilgi için Temsilci tabanlı video yorumlama başlıklı makaleyi inceleyin.